Deepfake.

Os deepfakes usam modelos generativos — GANs, modelos de difusão e sistemas neuronais de clonagem de voz — para trocar rostos, clonar vozes ou fabricar cenas inteiras. O termo data de 2017, quando um utilizador do Reddit publicou vídeos com rostos trocados; a técnica de autoencoder/GAN combina um codificador que comprime um rosto com descodificadores treinados para reconstruir um alvo, enquanto os clones de voz modernos só precisam de segundos de áudio de referência. A qualidade subiu tão depressa que deepfakes de vídeo em tempo real impulsionaram a fraude da Arup em Hong Kong, em janeiro de 2024, onde os atacantes encheram uma videochamada de colegas falsificados, incluindo um CFO falso, e convenceram um colaborador a autorizar 15 transferências num total de cerca de 200 milhões de HK$ (≈25 M USD).

Os deepfakes alimentam ainda o vishing, a sextorsão, a desinformação eleitoral, as imagens íntimas não consentidas e a evasão da verificação de identidade (KYC) através de vídeo sintético injetado. As defesas são em camadas: deteção técnica (verificações de liveness/anti-spoofing, classificadores e assinatura de proveniência através do padrão C2PA Content Credentials da Coalition for Content Provenance and Authenticity); controlos de processo (chamadas de retorno out-of-band para um número conhecido, dupla aprovação e palavras-chave para transferências grandes); e enquadramento legal como o Regulamento Europeu de IA (AI Act), cujo artigo 50 obriga a rotular conteúdo gerado por IA. A deteção por si só é frágil e degrada-se à medida que os geradores melhoram, pelo que os controlos de processo continuam a ser a salvaguarda mais fiável.

flowchart LR
  A[Fotos/audio de referencia<br/>do alvo] --> B[Treinar GAN /<br/>difusao / clone de voz]
  B --> C[Video ou voz sintetica]
  C --> D[Videochamada fraudulenta<br/>ou voicemail]
  D --> E{A vitima verifica<br/>out-of-band?}
  E -->|Sem chamada de retorno| F[Fundos transferidos - fraude bem-sucedida]
  E -->|Palavra-chave + numero conhecido| G[Pedido rejeitado]
  C -.proveniencia C2PA.-> H[Content Credentials<br/>assinala media sintetica]