A Inteligência Artificial Generativa está causando um grande impacto, especialmente com os esforços das plataformas de mídia social para incorporar essa tecnologia. No entanto, com esse avanço, surgem sérias desvantagens para os usuários das redes sociais. Neste artigo, exploraremos algumas dessas desvantagens e como elas afetam nossa experiência online. À medida que a IA generativa se torna cada vez mais comum, é vital estar ciente das implicações e como essas tecnologias podem impactar a autenticidade e a confiabilidade das informações que consumimos. Vamos aprofundar neste assunto e descobrir o que realmente está acontecendo com nossas plataformas de mídia social.
últimas postagens
1 Um Mar de Conteúdo Irrelevante
Se você é um usuário frequente de plataformas como o Facebook, provavelmente já se deparou com o que chamamos de “conteúdo irrelevante gerado por IA”. Esse termo se refere a saídas de baixa qualidade da IA generativa, incluindo obras de arte surrealistas e receitas sem sentido. Existe até uma conta no X dedicada ao conteúdo da IA lixo no Facebook.
Esse tipo de conteúdo costuma aparecer em páginas de spam que tentam se tornar virais. E, uma vez que o Facebook recomenda conteúdo viral, você pode acabar recebendo mais bobagens em seu feed do que o habitual. A IA generativa facilitou a criação desses posts de spam, inundando as plataformas de mídia social e ofuscando o conteúdo real.
2 Perdendo ainda mais Autenticidade
Dontree_M/Shutterstock
As redes sociais não são exatamente conhecidas por sua autenticidade. Frequentemente, influenciadores mostram vislumbres de suas vidas, quase sempre com o objetivo de projetar uma imagem de perfeição ou para vender um produto pelo qual foram pagos para anunciar.
Contudo, a IA leva essa falta de autenticidade ainda mais longe. O TikTok está testando influenciadores virtuais que permitirão às empresas anunciarem produtos usando avatares digitalmente criados, de acordo com informações do SocialMediaToday. Enquanto isso, o Instagram está experimentando um recurso que permite que influenciadores criem bots de IA que responderão a mensagens de fãs. O teste foi anunciado pelo CEO da Meta, Mark Zuckerberg, em seu canal de transmissão no Instagram.
Essa diluição da já escassa autenticidade nas redes sociais não se limita apenas aos influenciadores. A IA também está sendo usada para gerar postagens de usuários em redes sociais como Reddit e X (Twitter). Embora chatbots que realizem essa tarefa existam há algum tempo, o lançamento de modelos de linguagem grande dificultou a distinção entre o que é real e o que não é. Diariamente, ao usar o Reddit, sou confrontado com usuários acusando outros de usarem IA para redigir um post ou história.
As plataformas de IA das empresas de mídia social ainda estão em fase de desenvolvimento, o que significa que continuam cometendo erros. Alguns desses erros contribuem para a desinformação ou diminuem a confiança dos usuários na plataforma.
Por exemplo, a IA da Meta respondeu a um post em um grupo do Facebook afirmando ser um pai de uma criança com “2e” (duplamente excepcional) matriculada em um programa para alunos talentosos, conforme relatado pela Sky News. Felizmente, como as respostas da IA da Meta são claramente identificadas no Facebook, os usuários conseguiram perceber que a resposta não era genuína. Porém, isso levanta questões sobre a confiabilidade de ferramentas de IA como a Meta ao se inserirem em conversas onde não deveriam estar.
Enquanto isso, Grok AI (o chatbot de IA do X) foi criticado por produzir desinformação. Uma dessas situações envolveu a falsa acusação do jogador da NBA Klay Thompson de vandalizar casas, após a IA interpretar mal o jargão de basquete que chama arremessos que não entram na cesta de “tijolos”.
Embora algumas alucinações geradas por IA sejam cômicas, outras formas de desinformação são mais preocupantes e podem levar a consequências no mundo real.
4 Compreendendo a Teoria da Internet Morta
A teoria da internet morta é a ideia de que a vasta maioria do conteúdo online é gerada por bots. Embora isso possa ter parecido absurdo no passado, está se tornando cada vez mais plausível à medida que somos inundados com spam e respostas geradas por IA nas plataformas de mídias sociais.
O fato de as empresas de mídia social estarem integrando bots como usuários torna essa ideia ainda mais realista. Isso resultou até no lançamento do Butterflies AI, uma plataforma de mídia social onde alguns usuários são, na verdade, apenas bots de IA. Embora os bots possam ser úteis, ter contas falsas se passando por usuários reais não me agrada.
No que diz respeito à experiência do usuário no dia a dia, a IA generativa facilitou a tarefa de bots de spam imitarem usuários reais. Recentemente, fiz uma postagem no X para encomendar uma obra de arte e minha caixa de entrada foi inundada com respostas de bots. Distinguir usuários reais de bots está se tornando cada vez mais difícil.
5 Os Usuários Precisam Encontrar Maneiras de Proteger Seu Conteúdo Contra Coleta de Dados por IA
Os usuários estão buscando diversas maneiras de proteger seu conteúdo de ser utilizado em conjuntos de dados de IA. Contudo, isso nem sempre é tão simples quanto optar por sair. Se suas postagens são públicas, é provável que já tenham sido usadas para treinar IA.
Como resultado, os usuários estão tentando alternativas para proteger seus dados, o que inclui a alteração de perfis públicos para privados, bem como o uso de técnicas de poluição de dados. Embora usar o Nightshade para poluir obras de arte não impacte os usuários que visualizam as imagens, outras formas de poluição de dados podem afetar o conteúdo que vemos nas redes sociais.
Se mais usuários mudarem para perfis privados em redes sociais públicas, ficará mais difícil descobrir usuários e conteúdos que você gosta. E, à medida que artistas se afastam de plataformas que fornecem dados para treinar IA generativa, as pessoas que simplesmente desejam admirar seu trabalho perderão a oportunidade, a menos que tenham acesso a plataformas de nicho.
Embora haja algumas aplicações para IA generativa nessas plataformas, algumas pessoas argumentariam que não precisamos realmente dessa tecnologia nas redes sociais. Contudo, independentemente de nossas opiniões, a IA generativa já mudou fundamentalmente as redes sociais de várias maneiras.