É comum confiarmos no conteúdo de gravações de vídeo e áudio. Contudo, com o avanço da Inteligência Artificial (IA), o rosto ou a voz de qualquer pessoa podem ser reproduzidos com uma precisão impressionante. O resultado é o que chamamos de “deepfake”, uma representação que pode ser utilizada para diversas finalidades, desde a criação de memes até a disseminação de desinformação e, infelizmente, até mesmo para conteúdo pornográfico.
Ao observarmos exemplos como os deepfakes de Nicholas Cage ou o PSA deepfake de Jordan Peele, torna-se evidente que estamos lidando com uma tecnologia inovadora e, ao mesmo tempo, desconcertante. Mesmo que esses exemplos sejam relativamente inofensivos, eles levantam questões cruciais sobre o futuro. Será que podemos confiar em vídeos e áudios? Como responsabilizar as pessoas por suas ações exibidas em tela? Estaremos preparados para lidar com os desafios dos deepfakes?
Deepfakes: Uma Tecnologia Nova, Acessível e em Rápido Crescimento
A tecnologia por trás dos deepfakes é relativamente recente, tendo surgido há poucos anos. No entanto, sua evolução tem sido exponencial, tornando-se algo ao mesmo tempo fascinante e preocupante. O termo “deepfake”, que surgiu em um fórum do Reddit em 2017, descreve a recriação da aparência ou voz de um ser humano utilizando inteligência artificial. O mais surpreendente é que, atualmente, quase qualquer pessoa com um computador básico, algum software e algumas horas de dedicação consegue criar um deepfake.
Para ilustrar a situação, observe a imagem à esquerda. Incrivelmente, ela é um deepfake.
Como acontece com toda tecnologia emergente, há alguma confusão em torno dos deepfakes. O vídeo “Pelosi bêbada” é um exemplo claro dessa confusão. Deepfakes são construídos por inteligência artificial e criados para simular a aparência de pessoas reais. O vídeo “dunk Pelosi”, frequentemente classificado como um deepfake, é, na verdade, um vídeo de Nancy Pelosi que foi desacelerado e teve seu tom alterado para produzir um efeito de fala arrastada.
Essa é uma das principais diferenças entre deepfakery e técnicas como o CGI utilizado em “Star Wars: Rogue One” para recriar Carrie Fisher. Enquanto a Disney investiu recursos consideráveis no estudo e na recriação manual do rosto de Carrie Fisher, uma pessoa com um software apropriado pode realizar um trabalho semelhante de forma gratuita em apenas um dia. A IA tornou o processo incrivelmente simples, barato e convincente.
Como Criar um Deepfake
Assim como um aluno em sala de aula, a IA necessita “aprender” a realizar a tarefa desejada. Esse processo ocorre através de tentativas e erros, um método conhecido como aprendizado de máquina ou aprendizado profundo. Uma IA projetada para completar o primeiro nível de Super Mario Bros, por exemplo, jogará o jogo repetidamente até encontrar a melhor maneira de vencer. O criador da IA deve fornecer alguns dados iniciais, bem como “regras” para lidar com eventuais erros. Após isso, a IA realiza todo o trabalho.
O mesmo princípio se aplica à recriação facial para deepfakes. É claro que recriar rostos não é o mesmo que vencer um videogame. Para criar um deepfake de Nicholas Cage apresentando o programa de Wendy Williams, por exemplo, necessitaríamos de:
Um vídeo-alvo: atualmente, deepfakes funcionam melhor com vídeos-alvo nítidos e claros. Por isso, alguns dos deepfakes mais convincentes são de políticos, já que eles tendem a permanecer estáticos em um pódio sob uma iluminação uniforme. No nosso caso, precisaríamos de um vídeo de Wendy sentada e falando.
Dois conjuntos de dados: para que os movimentos da boca e da cabeça pareçam precisos, necessitamos de um conjunto de dados do rosto de Wendy Williams e um conjunto de dados do rosto de Nicholas Cage. Se Wendy olhar para a direita, precisaremos de uma imagem de Nicholas Cage olhando para a direita. Se Wendy abrir a boca, precisamos de uma imagem de Cage abrindo a boca.
Após essa etapa, deixamos a IA trabalhar. Ela tentará criar o deepfake repetidamente, aprendendo com seus próprios erros. Parece simples, não é? Bom, um vídeo do rosto de Cage no programa de Wendy Williams…