Desinformation Generee par l'IA
Qu'est-ce que Desinformation Generee par l'IA ?
Desinformation Generee par l'IAContenu faux ou trompeur produit ou amplifie par l'IA generative pour tromper le public, manipuler l'opinion ou influencer elections, marches et conflits.
La desinformation generee par l'IA s'appuie sur les grands modeles de langage, les generateurs d'images et la synthese voix/video pour produire en masse de fausses informations, publications sur reseaux sociaux, fausses interviews et preuves synthetiques tres convaincantes. Par rapport a la propagande classique, l'IA generative reduit le cout d'un contenu fluide et multilingue, permet une personnalisation a la demande par audience et autorise une iteration rapide quand un fact-check apparait. Parmi les cas documentes : des appels automatises avec voix clonee de candidats lors des elections de 2024, et des videos synthetiques utilisees dans les operations d'influence autour de la guerre en Ukraine. Les mitigations combinent normes de provenance (C2PA), detection par les plateformes, filigranage des medias synthetiques, education aux medias et regles juridiques telles que les obligations de transparence de l'AI Act europeen pour les deepfakes.
● Exemples
- 01
Appels automatises avec voix clonee imitant un candidat presidentiel pour dissuader les electeurs lors des primaires americaines de 2024.
- 02
Reseaux coordonnes de comptes ecrits par LLM amplifiant une fausse fuite lors d'une crise geopolitique.
● Questions fréquentes
Qu'est-ce que Desinformation Generee par l'IA ?
Contenu faux ou trompeur produit ou amplifie par l'IA generative pour tromper le public, manipuler l'opinion ou influencer elections, marches et conflits. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.
Que signifie Desinformation Generee par l'IA ?
Contenu faux ou trompeur produit ou amplifie par l'IA generative pour tromper le public, manipuler l'opinion ou influencer elections, marches et conflits.
Comment fonctionne Desinformation Generee par l'IA ?
La desinformation generee par l'IA s'appuie sur les grands modeles de langage, les generateurs d'images et la synthese voix/video pour produire en masse de fausses informations, publications sur reseaux sociaux, fausses interviews et preuves synthetiques tres convaincantes. Par rapport a la propagande classique, l'IA generative reduit le cout d'un contenu fluide et multilingue, permet une personnalisation a la demande par audience et autorise une iteration rapide quand un fact-check apparait. Parmi les cas documentes : des appels automatises avec voix clonee de candidats lors des elections de 2024, et des videos synthetiques utilisees dans les operations d'influence autour de la guerre en Ukraine. Les mitigations combinent normes de provenance (C2PA), detection par les plateformes, filigranage des medias synthetiques, education aux medias et regles juridiques telles que les obligations de transparence de l'AI Act europeen pour les deepfakes.
Comment se défendre contre Desinformation Generee par l'IA ?
Les défenses contre Desinformation Generee par l'IA combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.
Quels sont les autres noms de Desinformation Generee par l'IA ?
Noms alternatifs courants : Desinformation synthetique, Propagande par IA generative.
● Termes liés
- ai-security№ 1208
Attaque par Clonage de Voix
Attaque utilisant une voix synthetisee par IA imitant une personne reelle pour contourner l'authentification vocale ou pousser une victime a autoriser des paiements ou des actions.
- ai-security№ 1203
Attaque par Deepfake Video
Attaque utilisant une video synthetique generee par IA d'une personne reelle, souvent en visioconference en direct, pour autoriser des transactions frauduleuses ou propager de la desinformation.
- ai-security№ 297
Deepfake
Média audio, image ou vidéo synthétique généré par IA qui représente de manière convaincante une personne réelle disant ou faisant quelque chose qui n'a jamais eu lieu.
- ai-security№ 037
Malware Genere par IA
Code malveillant ecrit, mute ou assiste par des grands modeles de langage, abaissant la barriere technique pour les attaquants et accelerant la production de variantes.
- attacks№ 1065
Ingénierie sociale
Manipulation psychologique amenant des personnes à effectuer des actions ou à divulguer des informations confidentielles au profit d'un attaquant.
- ai-security№ 026
Détection de contenus générés par IA
Outils et techniques qui estiment si un texte, une image, un audio ou une vidéo a été produit par un modèle d'IA plutôt que par un humain.