Detectar Deepfakes não é moleza; está ficando mais complexo a cada minuto.
A tecnologia sempre foi uma faca de dois gumes. Há coisas boas e coisas piores que você pode fazer com elas.
Embora as linhas acima possam ter um toque poético, fale sobre Inteligência Artificial (IA) e ela se manifesta como uma realidade gritante.
Deepfakes é um desses aplicativos de IA que ajuda a criar vídeos, imagens e áudio com realismo excepcional, na medida em que muitas vezes precisa de habilidades sobre-humanas para diferenciá-los.
últimas postagens
O que são deepfakes?
Simplificando; são mídias falsas feitas com aplicativos de desktop ou smartphone. Esses aplicativos usam algoritmos específicos para substituir peças do original e trocá-las por outras, como esta:
Veja como é ‘real’.
Essa é a ordem do dia. Engane ou entretenha as pessoas com essas mídias sintéticas.
Um tempo atrás, era muito difícil criar vídeos tão convincentes, mas agora você só precisa de uma placa gráfica poderosa e alguns dias para fazê-lo.
Leia também: Deepfake Apps para fazer os melhores memes
No entanto, é preciso mais do que isso para impressionar a todos com clonagem de voz, expressões e tudo.
Ainda assim, isso está ficando mais simples a cada dia, com os algoritmos se tornando eficientes em hardware de baixo custo e computação poderosa fazendo incursões.
Conclusivamente, vamos vê-los mais.
Além disso, quando estamos cientes de um possível uso indevido perigoso, devemos estar vigilantes para discerni-los da verdade.
Como identificar deepfakes?
Nem todos os deepfakes são criados iguais. E, portanto, nem toda técnica funciona em todos os lugares. Enquanto alguns têm sinais reveladores de serem feitos à máquina, outros precisam de uma observação cuidadosa ou mesmo de outras ferramentas de IA para diferenciar.
Tom de pele
Esta é a primeira coisa a tomar nota. A parte ‘trabalhada’ (geralmente o rosto) terá pequenas diferenças na cor da pele, causando uma incompatibilidade com o restante das partes visíveis do corpo.
O da esquerda na imagem acima é de um vídeo falso do presidente ucraniano, Sr. Volodymyr Zelenskyy, pedindo que suas forças e povo se rendam à Rússia.
Mas ninguém se deixou enganar por esse trabalho medíocre de copiar e colar, e foi imediatamente chamado de deepfake.
Expressões
Esta é a maior revelação, especialmente quando os amadores se disfarçam de especialistas em deepfakes. Suas criações inferiores muitas vezes sofrem de movimentos labiais não naturais sem pausas humanas ajudando a identificá-los como falsos.
No entanto, alguns algoritmos têm provisões para pausas respiratórias. Ainda assim, você pode dizer as paradas idênticas e os movimentos da cabeça que seguem padrões semelhantes, geralmente mecânicos demais para serem ignorados.
Da mesma forma, piscar é outra área que revela deepfakes como tal. Isso também passa por ciclos (conforme escrito em seu código), o que não é tão humano se você observar ao lado de um vídeo real da mesma pessoa.
Outra coisa que você pode usar para detectar deepfakes é o movimento do globo ocular. A IA, uma máquina sem emoções e distrações, geralmente parece mais focada do que um ser humano comum enquanto fala.
Conclusivamente, os deepfakes são mais fáceis de detectar, a menos que sejam feitos com (quase) perfeição, como este.
Patches
Então, como saber se aquele não é o verdadeiro Morgan Freeman?
A melhor coisa sobre o vídeo anterior é a alta qualidade. Você pode mudar para a resolução mais alta (4k disponível) para ter a chance de identificar o artificial.
E quanto maior a tela, melhor. Como alternativa, você pode capturar a tela e ampliar para ver se algum trabalho de computador está por trás do óbvio.
Você consegue ver a pele maquiada? É aqui que os algoritmos falham, nos pequenos detalhes, por mais sofisticados que sejam.
A pele parece irregular e a reprodução do cabelo facial (e da cabeça) não é natural e parece colada.
Isso ajudará você a analisar melhor o seguinte:
Posso distinguir claramente a pele sintética, visível principalmente ao redor do bigode, barba e linha do cabelo.
O queixo, as sobrancelhas, o rosto (o real é fino), o nariz etc. – compare com o real (à direita) e fica claro como um dia.
Para reiterar, ter o verdadeiro lado a lado torna mais fácil distinguir o falso.
Detalhes
Muita coisa acontece quando conversamos. Todo mundo tem seus próprios estilos, que levam os lábios, a língua, o queixo, as bochechas, etc., a se moverem em um determinado padrão exclusivo para eles.
Além disso, a tecnologia deepfake ainda não domina os visuais dentro da boca enquanto fala. Por exemplo, você não pode apontar dentes inferiores (mandibulares) individuais no deepfake de Obama.
Tudo o que vemos é uma faixa branca na parte inferior e não há sinais de movimento da língua.
Você pode assistir a qualquer vídeo genuíno de Obama e observar que o homem é muito mais expressivo com muitos movimentos faciais do que esta réplica de IA.
Além disso, você pode ver que o vídeo em si não é muito claro. É de baixíssima qualidade, compactado para esconder a realidade ou devido a limitações de computação.
Transições
Uma limitação na criação de deepfake é a geração quadro a quadro. Cada quadro deve ser verificado quanto à máscara perfeita para manter a magia intacta.
Por causa disso, os vídeos deepfake mais convincentes são extremamente limitados nos movimentos faciais. Eles mostram apenas faces frontais sem vistas laterais porque as transições de lado a lado podem revelar os gargalos criativos.
Confira esta imagem de um deepfake de Tom Cruise:
Se você desacelerar o vídeo e observar atentamente de 35 a 40 segundos, as transições de lado para frontal terão algumas partes desfocadas.
Estas são indiscutivelmente a parte mais difícil de esconder e as melhores para descobrir essas criações de IA.
Portanto, essas são algumas coisas que podem ajudá-lo a identificar deepfakes e limitar a desinformação. Para resumir:
1. Verifique se há variações no tom da pele. 2. Procure sincronização labial não natural, robótica ou sem piscar, etc. 3. Aumente o zoom para ver se a textura da pele, a reprodução do cabelo etc. expressões e estilo de fala com os vídeos reais.5.Verifique se versões de alta qualidade estão disponíveis.6.Faça uma pesquisa rápida no Google para ver se é falso.8.Anote as dimensões faciais gerais e compare-as com as reais.9 .Desacelere o vídeo para captar transições ruins.10.O interior da boca parece real e detalhado?11.Compartilhe e peça feedback a seus amigos e familiares em caso de ambigüidade.Spotting Deepfakes 101
Deepfakes não são perfeitos!
Embora tenhamos coberto apenas o vídeo deepfake, o áudio criado por IA sofrerá restrições semelhantes. E embora as máquinas estejam melhorando enquanto falamos sobre isso, elas sempre ficarão para trás em relação aos vivos.
No entanto, o aprendizado não está completo sem que você realmente coloque a mão na massa. Nesse caso, fizemos este guia sobre o que são deepfakes e como criá-los.