Identificar deepfakes não é uma tarefa fácil; a cada momento, ela se torna mais complexa.
A tecnologia, inerentemente, possui um caráter ambíguo. Ela pode ser utilizada para propósitos benéficos ou maléficos.
Embora as considerações acima possam parecer um tanto poéticas, ao se referir à Inteligência Artificial (IA), a questão se manifesta de maneira inegavelmente concreta.
Deepfakes são um exemplo de aplicação de IA que possibilita a criação de vídeos, imagens e áudios com um realismo impressionante, muitas vezes exigindo habilidades quase sobre-humanas para distingui-los dos originais.
O que são deepfakes?
Em termos simples, são mídias falsificadas produzidas por meio de aplicativos para computadores ou smartphones. Esses aplicativos empregam algoritmos específicos para substituir partes da gravação original por outras, como exemplificado abaixo:
Observe o quão ‘real’ parece.
Esta é a nova tendência: enganar ou entreter o público por meio dessas mídias fabricadas.
Embora, anteriormente, a criação de vídeos tão convincentes fosse uma empreitada complexa, atualmente, com uma placa gráfica potente e alguns dias de dedicação, é possível fazê-lo.
Veja também: Aplicativos Deepfake para criar os melhores memes
No entanto, é preciso mais do que isso para impressionar verdadeiramente com a clonagem de voz, expressões e demais detalhes.
Ainda assim, esse processo está se simplificando cada vez mais, à medida que os algoritmos se tornam mais eficientes em hardware de menor custo, e a computação de alto desempenho avança.
Em conclusão, veremos cada vez mais deepfakes.
Portanto, estando cientes do potencial uso indevido e perigoso dessas tecnologias, devemos estar vigilantes para discernir a verdade da falsidade.
Como identificar deepfakes?
Nem todos os deepfakes são criados da mesma forma. Consequentemente, nenhuma técnica é universalmente eficaz. Alguns exibem sinais evidentes de manipulação, enquanto outros exigem uma análise minuciosa ou até mesmo ferramentas de IA para serem identificados.
Tom de pele
Esta é uma das primeiras características a serem observadas. A parte “manipulada” (geralmente o rosto) apresenta sutis alterações na tonalidade da pele, gerando uma discrepância com as demais partes visíveis do corpo.
Na imagem acima, à esquerda, temos um deepfake do presidente ucraniano, Volodymyr Zelenskyy, onde ele supostamente pede que suas forças e povo se rendam à Rússia.
Contudo, esse trabalho de colagem medíocre não enganou ninguém, sendo rapidamente desmascarado como um deepfake.
Expressões
Este é o maior indício, principalmente quando amadores tentam se passar por especialistas em deepfakes. Suas criações de qualidade inferior frequentemente exibem movimentos labiais artificiais, desprovidos de pausas naturais, o que facilita a identificação como falsas.
Apesar de alguns algoritmos incluírem pausas respiratórias, ainda é possível identificar as pausas idênticas e os movimentos da cabeça que seguem padrões similares, geralmente muito mecânicos para passarem despercebidos.
O ato de piscar é outro fator revelador. Ele também ocorre em ciclos (de acordo com o código), o que não se assemelha ao comportamento humano se comparado a um vídeo real da mesma pessoa.
Outro aspecto que pode auxiliar na detecção de deepfakes é o movimento dos olhos. A IA, sendo uma máquina sem emoções ou distrações, costuma parecer mais concentrada do que um ser humano comum ao falar.
Em suma, deepfakes são relativamente fáceis de detectar, a menos que sejam produzidos com (quase) perfeição, como o exemplo a seguir.
Manchas
Então, como podemos ter certeza de que aquele não é o verdadeiro Morgan Freeman?
O ponto forte do vídeo anterior reside em sua alta qualidade. É recomendável alterar a resolução para a mais alta disponível (4K), a fim de aumentar as chances de detectar a manipulação.
E quanto maior a tela, melhor. Alternativamente, é possível capturar a tela e ampliá-la para verificar a presença de indícios de manipulação digital.
É possível identificar a pele maquiada? É nesses pequenos detalhes que os algoritmos falham, por mais sofisticados que sejam.
A pele parece irregular, e a reprodução dos pelos faciais (e do cabelo) não é natural, parecendo colada.
Isso auxiliará na análise da seguinte imagem:
É notória a pele sintética, visível principalmente ao redor do bigode, barba e linha do cabelo.
O queixo, sobrancelhas, rosto (o verdadeiro é mais fino), nariz, etc., ao serem comparados com os da pessoa real (à direita), tornam a diferença evidente.
Em resumo, ter a imagem da pessoa real lado a lado facilita a distinção entre o falso e o verdadeiro.
Detalhes
Muitos detalhes ocorrem enquanto conversamos. Cada pessoa possui seu próprio estilo, que envolve os lábios, a língua, o queixo, as bochechas, etc., movendo-se de acordo com um padrão exclusivo.
Além disso, a tecnologia deepfake ainda não aperfeiçoou a representação visual do interior da boca durante a fala. Por exemplo, não é possível distinguir os dentes inferiores (mandibulares) individuais no deepfake de Obama.
Tudo o que vemos é uma faixa branca na parte inferior, sem indícios de movimento da língua.
Assistindo a qualquer vídeo genuíno de Obama, é possível perceber que ele é muito mais expressivo, com diversos movimentos faciais, do que esta réplica de IA.
Ademais, é possível observar que o vídeo em si não é muito nítido. Ele apresenta baixa qualidade, sendo compactado para ocultar a manipulação ou devido a limitações computacionais.
Transições
Uma limitação na criação de deepfakes reside na geração quadro a quadro. Cada quadro precisa ser verificado para garantir a perfeição da máscara, mantendo a ilusão.
Devido a isso, os vídeos deepfake mais convincentes apresentam movimentos faciais bastante limitados. Eles exibem apenas faces frontais, sem ângulos laterais, pois as transições entre diferentes perspectivas podem revelar as falhas criativas.
Observe esta imagem de um deepfake de Tom Cruise:
Ao desacelerar o vídeo e observar atentamente dos 35 aos 40 segundos, as transições da lateral para a frontal exibem algumas áreas desfocadas.
Estas são, sem dúvida, as partes mais difíceis de ocultar e as mais eficazes para detectar essas criações de IA.
Portanto, estes são alguns dos pontos que podem ajudar a identificar deepfakes e limitar a disseminação de desinformação. Em resumo:
1. Verifique a presença de variações na tonalidade da pele. 2. Observe a sincronização labial, que pode ser não natural ou robótica, bem como a ausência de piscadas, etc. 3. Amplie a imagem para verificar a textura da pele e a reprodução dos pelos faciais. 4. Compare expressões e estilo de fala com vídeos reais. 5. Verifique a disponibilidade de versões em alta qualidade. 6. Faça uma pesquisa rápida no Google para verificar a autenticidade do vídeo. 7. Observe as dimensões faciais e compare-as com as da pessoa real. 8. Desacelere o vídeo para captar transições mal executadas. 9. O interior da boca parece real e detalhado? 10. Compartilhe e peça opiniões a amigos e familiares em caso de dúvidas.
Deepfakes não são perfeitos!
Embora tenhamos abordado apenas os deepfakes em vídeo, áudios criados por IA também apresentarão limitações similares. E, apesar do progresso das máquinas, a capacidade de imitação ainda ficará aquém da perfeição.
Entretanto, o aprendizado não está completo sem a prática. Portanto, elaboramos este guia sobre o que são deepfakes e como criá-los.