Desenvolvimentos recentes em modelos de linguagem, geração de imagens a partir de texto e produção de vídeos a partir de texto têm permitido que a inteligência artificial (IA) crie resultados que parecem extremamente reais, chegando a enganar muitas pessoas, que os confundem com conteúdo original e criado por humanos.
Embora essa capacidade represente um avanço tecnológico significativo, ela também torna mais tênue a linha entre o que é real e o que é fantasia. Imagens, textos e vídeos produzidos por IA criam um conteúdo digital que pode obscurecer as experiências autênticas. A seguir, exploraremos algumas formas pelas quais a IA cria essa ilusão de realidade:
1. Pessoas que tratam personagens criados por IA como se fossem reais
Aplicativos de namoro virtual com IA estão se tornando cada vez mais realistas. Eles simulam relacionamentos amorosos através de personagens criados por IA, que os usuários podem personalizar de acordo com suas preferências. Alguns preferem personagens com aparências humanas e detalhes complexos, enquanto outros optam por replicar personagens fictícios.
Muitas pessoas usam esses simuladores de namoro como uma forma de lidar com a solidão. Aplicativos baseados em processamento de linguagem natural (PNL) e grandes modelos de linguagem (LLMs) conseguem imitar conversas humanas de maneira muito convincente, fazendo com que os usuários sintam que estão estabelecendo uma conexão real com esses parceiros virtuais.
Paradoxalmente, esses aplicativos de namoro com IA podem acabar piorando o isolamento social, pois perpetuam ideias distorcidas sobre relacionamentos interpessoais. Alguns usuários desejam parceiros que correspondam perfeitamente às personalidades que eles mesmos inventam para seus personagens de IA. Em alguns casos, chegam até a se “casar” com seus companheiros virtuais, abandonando completamente a ideia de relacionamentos com pessoas reais.
2. Chatbots que oferecem apoio emocional simulado
É cada vez mais comum o uso de chatbots de IA generativa para fins de psicoterapia. Essas plataformas de IA extraem informações sobre saúde mental de seus bancos de dados e simulam a fala humana através de LLMs. Embora a orientação oferecida seja geralmente neutra e genérica, muitas pessoas estão optando por recorrer a essas ferramentas em vez de pagar por sessões de terapia com profissionais.
Além da acessibilidade da IA, algumas pessoas preferem confiar em algoritmos por considerá-los imparciais e livres de julgamento. Elas se sentem desconfortáveis em compartilhar seus problemas com outra pessoa. Mesmo ao conversar com um profissional de saúde mental, pode haver barreiras de comunicação.
No entanto, é arriscado tratar chatbots de IA como terapeutas. A IA não consegue sentir empatia ou compreender realmente sua situação; ela usa o PNL para interpretar o que você escreve e fornece respostas com base em seus dados. Se você precisa de aconselhamento profissional em saúde mental, procure um terapeuta ou psiquiatra licenciado.
3. Usuários que imitam vozes usando síntese de voz
Os avanços em modelos de conversão de texto em fala e de fala em fala têm levado ao surgimento de geradores de voz com IA que são acessíveis e fáceis de usar. Eles produzem uma saída de fala com som natural. Dependendo da qualidade da entrada e da sofisticação do modelo, é possível clonar a voz de qualquer pessoa com precisão.
Desenvolvedores frequentemente usam geradores de voz com IA para sintetizar narrações de vídeos, adicionar funções de fala a personagens virtuais ou programar aplicativos ativados por voz, já que isso é mais barato do que fazer gravações do zero. Além disso, algumas pessoas utilizam geradores de voz para imitar ou ridicularizar personalidades conhecidas. É comum vermos imitações de músicas feitas com essas ferramentas circulando na internet.
É importante não subestimar os riscos de segurança relacionados aos geradores de voz com IA. Criminosos estão explorando essas ferramentas para disseminar informações falsas e aplicar golpes de engenharia social. Mesmo pessoas com conhecimentos de tecnologia podem ser enganadas por vozes sintetizadas por IA se não tomarem cuidado.
A proliferação de geradores de voz, imagem e texto orientados por IA permite que os usuários criem uma persona completamente nova online. Veja o caso dos influenciadores virtuais. Muitos avatares gerados por IA são extremamente realistas e podem facilmente ser confundidos com pessoas reais.
Embora a criação de avatares realistas aproxime a sociedade do metaverso, ela também facilita a ação de golpistas, que podem criar identidades falsas para roubo de identidade e golpes de namoro online. Quando os criminosos combinam essas tecnologias avançadas com manipulação psicológica, eles conseguem enganar um número ainda maior de vítimas.
O pior é que algumas vítimas se iludem e acreditam que podem estabelecer conexões genuínas com personagens criados por IA. O desejo de companhia pode levá-las a ignorar o fato de que as pessoas por trás desses personagens não se importam com elas.
5. Conteúdo de IA que inunda os resultados de busca (SERPs)
Os chatbots de IA têm tido um impacto significativo na indústria de criação de conteúdo. Redatores autônomos, agências de marketing, empresas de produção de conteúdo e até mesmo veículos de comunicação tradicionais estão procurando formas de acelerar o processo de escrita com a ajuda da IA. Afinal, modelos avançados de LLMs conseguem produzir um texto de 500 palavras em menos de 15 segundos.
Existem várias formas éticas de redatores utilizarem a IA; o problema é que a maioria dos criadores de conteúdo só se preocupa em produzir textos rapidamente. Essa obsessão pela velocidade acaba prejudicando a qualidade. A IA extrai informações de seus bancos de dados de treinamento e não verifica fatos nem compara fontes. O resultado geralmente não é original e pode induzir a erros.
Para piorar a situação, muitos artigos de IA de baixa qualidade ainda conseguem alcançar altas posições nos resultados de busca através de técnicas avançadas de SEO. A maioria das pessoas não percebe quais resultados do Google são gerados por IA e podem estar lendo e citando informações enganosas ou factualmente incorretas sem saber.
6. Deepfakes que destroem reputações
Modelos generativos de IA conseguem imitar características, vozes e comportamentos de outras pessoas através de mídias manipuladas digitalmente. Veja o vídeo no TikTok com o “Tom Cruise”. Milhões de pessoas acreditariam que é real se a conta não declarasse explicitamente que se trata de um deepfake.
Mas nem todos são tão honestos. Criminosos exploram vídeos deepfake para disseminar conteúdo enganoso, prejudicial ou sexualmente sugestivo. Com as ferramentas e habilidades de edição necessárias, eles conseguem fabricar praticamente qualquer tipo de vídeo.
7. Experiências imersivas de VR/AR que distorcem os sentidos
Modelos de IA permitem que as tecnologias de realidade virtual (VR) e realidade aumentada (AR) proporcionem experiências mais imersivas. Seu conteúdo hiper-realista estimula os sentidos de forma completa. E à medida que os dispositivos VR/AR avançam, sua capacidade de criar estímulos auditivos, visuais e táteis também melhora.
Apesar de ser fascinante, a imersão frequente em realidades estendidas pode distorcer os sentidos naturais. As plataformas VR/AR separam você do seu ambiente real. A exposição excessiva a estímulos sensoriais artificiais torna mais difícil distinguir a realidade das simulações.
Alguns usuários até desenvolvem uma dependência excessiva dessas realidades estendidas. Eles passam a se transportar para simulações personalizadas de acordo com seus desejos e preferências, em vez de enfrentar o mundo real.
8. Sistemas de negócios com IA que criam expectativas de lucro irreais
A IA está transformando a forma como empresas de diversos setores operam. A Fox Business relata que 90% das pequenas empresas já integraram chatbots de IA em seus processos. Além disso, profissionais com conhecimento de tecnologia estão explorando modelos mais avançados.
É verdade que as empresas podem aumentar a produtividade com a automação proporcionada pela IA, mas depender exclusivamente desses sistemas pode levar a um super investimento. Sistemas de IA em larga escala são caros e mergulhar nesse universo sem o devido planejamento pode aumentar os custos e dificultar o retorno do investimento.
A IA não é uma garantia de sucesso. Empresários desinformados devem abandonar a ideia de que substituir funcionários humanos por IA resulta em aumento de lucros. A adoção de novos sistemas ainda pode gerar prejuízos se não houver um planejamento adequado.
Traçando a linha entre a fantasia e a realidade
A distinção entre o mundo virtual e o real se tornará ainda mais difícil à medida que as tecnologias de IA avançam. Modelos sofisticados gerarão resultados cada vez mais realistas. A única maneira de combater essas falsas realidades é se aprofundar no estudo da IA — entender suas funções e suas limitações.
Além disso, sempre encare a IA com um olhar crítico. Ela percorreu um longo caminho desde o tempo em que produzia frases desconexas, mas ainda não é capaz de substituir a pesquisa adequada e o bom senso. Confiar cegamente em plataformas de IA apenas o deixará vulnerável à desinformação.