Golpe de Clonagem de Voz com IA: Como Identificar e se Proteger

Principais Conclusões

  • A tecnologia de clonagem vocal utiliza inteligência artificial para replicar vozes com grande autenticidade, explorando emoções e urgência em suas simulações.
  • Criminosos cibernéticos coletam dados de redes sociais para criar situações convincentes e manipular relações pessoais.
  • É crucial estar atento e identificar os sinais de alerta de fraudes de clonagem de voz com IA. Caso suspeite de algo, finalize a chamada e verifique mensagens de emergência através de outros meios.

A noite já está avançada. Seus pais recebem uma mensagem de voz sua, claramente angustiada, informando que você está em apuros, teve sua carteira roubada e está isolado em algum lugar. É urgente o envio de dinheiro para que você possa voltar para casa.

A voz na mensagem parece incrivelmente real, reconhecidamente sua. No entanto, é uma farsa. Trata-se de um clone vocal gerado por inteligência artificial, e eles se tornaram vítimas de um golpe que é ao mesmo tempo inovador e alarmantemente eficaz.

Como Funciona um Golpe de Clonagem de Voz com IA?

A clonagem de voz é capaz de criar réplicas digitais surpreendentemente realistas da voz de uma pessoa. Essa técnica, frequentemente referida como áudio deepfake, é desenvolvida através de ferramentas de clonagem de voz baseadas em IA, como o ElevenLabs (veja um exemplo de clone de voz de IA abaixo). Em conjunto com a IA generativa e a síntese de voz, a voz clonada pode imitar emoções, nuances, entonações e até mesmo o medo.

Para referência, aqui está um exemplo de como Christian Cawley realmente soa, em uma participação no The Really Useful Podcast.

A criação de um clone de voz com IA requer apenas uma pequena amostra da voz, geralmente em torno de um minuto ou até menos. As amostras de voz são frequentemente obtidas de publicações públicas em redes sociais, tornando vloggers e influenciadores alvos especialmente vulneráveis, devido à alta qualidade de áudio e fácil disponibilidade de suas publicações.

Após clonar a amostra de voz, os golpistas utilizam conversão de texto em voz ou até mesmo conversão de voz em tempo real para criar chamadas e mensagens de voz falsas.

Após acessar as redes sociais da vítima e coletar informações pessoais, o criminoso inventa uma situação plausível. Pode ser uma hospitalização, prisão, roubo, sequestro – qualquer evento que cause apreensão. A voz clonada é então usada para manipular um membro da família, induzindo-o a acreditar que um ente querido está em sérios apuros.

O realismo da voz e das emoções, aliado ao choque e à urgência do pedido, pode suprimir o ceticismo, levando a decisões impulsivas de transferência de dinheiro ou fornecimento de informações confidenciais.

Por que os Golpes de Clonagem de Voz com IA São Tão Eficazes?

Assim como outros golpes direcionados a familiares e amigos, os golpes de clonagem de voz com IA exploram os laços pessoais para obter sucesso. O pânico ao receber um pedido de socorro de um ente querido pode rapidamente obscurecer o bom senso, resultando em decisões precipitadas. Essa é a mesma tática usada em golpes de troca de dinheiro, mas o efeito é amplificado ao ouvir a voz de alguém próximo.

Pessoas com grande presença nas redes sociais ou que viajam frequentemente estão particularmente em risco, pois suas circunstâncias oferecem um contexto viável para a narrativa inventada pelo golpista. Frequentemente, os golpistas coletam e utilizam informações pessoais dos alvos de suas contas públicas de mídia social com antecedência, tornando as histórias ainda mais convincentes.

Principais Sinais de um Golpe de Clonagem de Voz com IA

Apesar da sua sofisticação, os golpes de clonagem de voz com IA podem ser identificados através de alguns sinais de alerta:

  • Urgência: O golpista tentará convencê-lo de que uma tragédia acontecerá se uma ação imediata não for tomada.
  • Inconsistências: Os golpistas nem sempre conhecem todos os detalhes de seu relacionamento com o alvo, portanto, preste atenção a informações conflitantes.
  • Solicitações Atípicas: Pedidos de transferência de dinheiro para contas bancárias no exterior ou pagamento via carteira de criptomoedas são táticas comumente utilizadas.

É difícil ponderar esses fatores em um momento de crise, mas essa atenção pode evitar que você seja enganado.

O Que Fazer Se Suspeitar de um Golpe de Clonagem de Voz com IA

Se você receber uma ligação ou mensagem de voz de um ente querido em perigo, mantenha a calma. Os golpistas apostam no seu pânico e emoção, pois isso aumenta sua vulnerabilidade às suas táticas.

Se Você Receber uma Chamada Telefônica

Se você suspeitar, mesmo que momentaneamente, que uma chamada possa ser um golpe de clonagem de voz, finalize a ligação imediatamente. Não compartilhe nenhuma informação e evite interagir com golpistas. Em vez disso, ligue de volta para seu ente querido em um número conhecido para confirmar a veracidade da chamada de socorro.

Continuar a conversa com golpistas pode levar ao risco de ter sua voz gravada e clonada também.

Se Você Receber uma Mensagem de Voz

Se os golpistas deixaram uma mensagem de voz, salve o áudio em seu telefone ou computador imediatamente. Essa amostra de áudio pode ser usada em uma ferramenta de classificação de fala de IA para determinar se a voz é humana ou sintética. Esses classificadores de fala de IA atuam como detectores de escrita de IA. Basta inserir o arquivo de áudio e o classificador o marcará como humano ou gerado por IA.

Uma ferramenta eficaz para essa verificação é o classificador de fala ElevenLabs. O ElevenLabs é a base de diversas plataformas de clonagem com IA, tornando-se uma ferramenta ideal para identificar uma voz que tenha sido clonada. Veja como utilizá-lo para determinar se uma voz foi gerada por IA:

  • Acesse o Classificador de fala ElevenLabs.
  • Carregue uma amostra da mensagem de voz e clique em “Detectar fala sintetizada”.
  • No exemplo abaixo, uma mensagem angustiante foi gravada por um humano e inserida no classificador. Você pode observar que foi classificada com 2% de probabilidade de ser manipulada.

    No exemplo seguinte, a mesma mensagem angustiante foi produzida utilizando uma ferramenta de clonagem de voz com IA. Para o ouvido humano, as vozes são indistinguíveis. Entretanto, a ferramenta a marcou com 98% de probabilidade de ser gerada por IA.

    Embora não se possa confiar 100% nesse classificador, ele pode confirmar suas suspeitas de que uma voz clonada está sendo utilizada. É aconselhável também entrar em contato com seu ente querido por um número conhecido para confirmar a situação.

    A Prevenção é a Melhor Defesa Contra Golpes de Clonagem de Voz com IA

    Às vezes, a melhor defesa contra golpes de alta tecnologia é uma solução de baixa tecnologia.

    Estabeleça uma senha offline que seja conhecida apenas por seus familiares e amigos. Caso receba uma chamada alarmante, usar essa senha pode ser uma maneira eficaz de confirmar a identidade de quem está ligando.

    Por fim, manter suas informações privadas fora das redes sociais é um grande passo para impedir que golpistas coletem informações suficientes para construir uma narrativa convincente. Lembre-se: se você não quer que todos saibam, é melhor não compartilhar nas redes sociais.