Deepfake
O que é Deepfake?
DeepfakeÁudio, imagem ou vídeo sintético gerado por IA que retrata de forma convincente uma pessoa real a dizer ou fazer algo que nunca aconteceu.
Os deepfakes usam modelos generativos — GANs, difusão e sistemas modernos de clonagem de voz — para trocar rostos, clonar vozes ou fabricar cenas inteiras. A qualidade subiu tão depressa que deepfakes de vídeo em tempo real foram usados em fraudes notórias, como o caso Arup em 2024, em que atacantes imitaram o CFO em videochamada e autorizaram uma transferência de 25 M USD. Alimentam vishing, sextorsão, interferência eleitoral, imagens íntimas não consentidas e contornar verificação de identidade. As defesas combinam deteção técnica (liveness, classificadores de deepfake, credenciais de conteúdo C2PA), controlos processuais (verificação out-of-band de transferências, palavras-passe), enquadramento legal (AI Act, propostas de AI Disclosure Act) e formação de utilizadores.
● Exemplos
- 01
Um deepfake em videochamada de um executivo a ordenar a transferência de fundos para uma conta fraudulenta.
- 02
Uma voz clonada do CEO num voicemail a pedir a um colaborador para contornar os workflows de aprovação.
● Perguntas frequentes
O que é Deepfake?
Áudio, imagem ou vídeo sintético gerado por IA que retrata de forma convincente uma pessoa real a dizer ou fazer algo que nunca aconteceu. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa Deepfake?
Áudio, imagem ou vídeo sintético gerado por IA que retrata de forma convincente uma pessoa real a dizer ou fazer algo que nunca aconteceu.
Como funciona Deepfake?
Os deepfakes usam modelos generativos — GANs, difusão e sistemas modernos de clonagem de voz — para trocar rostos, clonar vozes ou fabricar cenas inteiras. A qualidade subiu tão depressa que deepfakes de vídeo em tempo real foram usados em fraudes notórias, como o caso Arup em 2024, em que atacantes imitaram o CFO em videochamada e autorizaram uma transferência de 25 M USD. Alimentam vishing, sextorsão, interferência eleitoral, imagens íntimas não consentidas e contornar verificação de identidade. As defesas combinam deteção técnica (liveness, classificadores de deepfake, credenciais de conteúdo C2PA), controlos processuais (verificação out-of-band de transferências, palavras-passe), enquadramento legal (AI Act, propostas de AI Disclosure Act) e formação de utilizadores.
Como se defender contra Deepfake?
As defesas contra Deepfake costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Deepfake?
Nomes alternativos comuns: Imitação gerada por IA, Imitação por média sintética.
● Termos relacionados
- ai-security№ 1123
Média sintética
Qualquer conteúdo de áudio, imagem, vídeo ou texto produzido ou modificado substancialmente por IA generativa, em vez de captado diretamente do mundo físico.
- ai-security№ 026
Deteção de conteúdo gerado por IA
Ferramentas e técnicas que estimam se um texto, imagem, áudio ou vídeo foi produzido por um modelo de IA e não por um humano.
- ai-security№ 035
Marca de água de IA
Técnicas que incorporam um sinal detetável em conteúdo gerado por IA para que a sua proveniência, modelo de origem ou pertença ao conjunto de treino possam ser verificados depois.
- attacks№ 1205
Vishing
Phishing realizado por canais de voz — chamadas telefónicas ou VoIP — para manipular a vítima a divulgar credenciais, autorizar pagamentos ou conceder acesso remoto.
- attacks№ 135
Comprometimento de e-mail empresarial
Fraude direcionada em que o atacante se faz passar por uma caixa de correio corporativa ou a toma de assalto para induzir um colaborador a transferir dinheiro, alterar dados de pagamento ou enviar informação sensível.
- ai-security№ 027
Governança de IA
Conjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei.
● Veja também
- № 1021Sextorsao
- № 1203Ataque com Deepfake de Video
- № 036Desinformacao Gerada por IA
- № 137C2PA