Temos a tendência de confiar no conteúdo das gravações de vídeo e áudio. Mas com a IA, o rosto ou a voz de qualquer pessoa podem ser recriados com extrema precisão. O produto é uma falsificação profunda, uma representação que pode ser usada para memes, desinformação ou pornografia.
Uma olhada no Deepfakes Nicholas Cage ou de Jordan Peele deepfake PSA deixa claro que estamos lidando com uma tecnologia nova e estranha. Esses exemplos, embora relativamente inofensivos, levantam questões sobre o futuro. Podemos confiar no vídeo e no áudio? Podemos responsabilizar as pessoas por suas ações na tela? Estamos prontos para deepfakes?
Deepfakes são novos, fáceis de fazer e estão crescendo rapidamente
A tecnologia Deepfake tem apenas alguns anos, mas já explodiu em algo que é ao mesmo tempo cativante e perturbador. O termo “deepfake”, que foi cunhado em um tópico do Reddit em 2017, é usado para descrever a recriação da aparência ou voz de um humano por meio da inteligência artificial. Surpreendentemente, quase qualquer pessoa pode criar um deepfake com um PC ruim, algum software e algumas horas de trabalho.
Acredite ou não, a imagem à esquerda é o deepfake.
Como acontece com qualquer nova tecnologia, há alguma confusão em torno dos deepfakes. O vídeo do “Pelosi bêbado” é um excelente exemplo dessa confusão. Deepfakes são construídos por IA e são feitos para se passar por pessoas. O vídeo “dunk Pelosi”, que tem sido referido como deepfake, é na verdade apenas um vídeo de Nancy Pelosi que foi desacelerou e corrigiu o tom para adicionar um efeito de fala arrastada.
Isso também é o que torna deepfakery diferente de, digamos, CGI Carrie Fisher em Star Wars: Rogue One. Enquanto a Disney gastou muito dinheiro estudando o rosto de Carrie Fisher e recriando-o à mão, um nerd com algum software falso pode faça o mesmo trabalho de graça em um único dia. A IA torna o trabalho incrivelmente simples, barato e convincente.
Como fazer um Deepfake
Como um aluno em uma sala de aula, a IA precisa “aprender” como realizar sua tarefa pretendida. Isso é feito por meio de um processo de tentativa e erro de força bruta, geralmente conhecido como aprendizado de máquina ou aprendizado profundo. Uma IA projetada para completar o primeiro nível de Super Mario Bros, por exemplo, jogará o jogo continuamente até descobrir a melhor maneira de vencer. A pessoa que projeta a IA precisa fornecer alguns dados para iniciar as coisas, junto com algumas “regras” quando as coisas dão errado ao longo do caminho. Além disso, a IA faz todo o trabalho.
O mesmo se aplica à recreação facial falsa profunda. Mas, é claro, recriar rostos não é a mesma coisa que vencer um videogame. Se fôssemos criar um deepfake de Nicholas Cage apresentando o programa de Wendy Williams, eis o que precisaríamos:
Um vídeo de destino: a partir de agora, deepfakes funcionam melhor com vídeos de destino claros e limpos. É por isso que alguns dos deepfakes mais convincentes são de políticos; eles tendem a ficar parados em um pódio sob iluminação consistente. Então, só precisamos de um vídeo de Wendy sentada quieta e conversando.
Dois conjuntos de dados: para que os movimentos da boca e da cabeça pareçam precisos, precisamos de um conjunto de dados do rosto de Wendy Williams e um conjunto de dados do rosto de Nicholas Cage. Se Wendy olhar para a direita, precisaremos de uma foto de Nicholas Cage olhando para a direita. Se Wendy abrir a boca, precisamos de uma imagem de Cage abrindo a boca.
Depois disso, deixamos a IA fazer seu trabalho. Ele tenta criar o deepfake repetidamente, aprendendo com seus erros ao longo do caminho. Simples, certo? Bem, um vídeo do rosto de Cage no Wendy William’s