Desinformacion Generada por IA
¿Qué es Desinformacion Generada por IA?
Desinformacion Generada por IAContenido falso o enganoso producido o amplificado por IA generativa para enganar al publico, manipular la opinion o influir en elecciones, mercados o conflictos.
La desinformacion generada por IA utiliza modelos de lenguaje, generadores de imagenes y sintesis de voz o video para producir en masa noticias falsas, publicaciones en redes, entrevistas inventadas y pruebas sinteticas convincentes. Frente a la propaganda tradicional, la IA generativa reduce el coste de producir contenido fluido y multilingue, permite personalizar mensajes por audiencia y iterar rapidamente cuando aparecen verificaciones. Casos documentados incluyen llamadas automaticas con voz clonada de candidatos politicos en las elecciones de 2024 y videos sinteticos empleados en operaciones de influencia sobre la guerra en Ucrania. Las mitigaciones combinan estandares de procedencia (C2PA), deteccion en plataformas, marca de agua en medios sinteticos, alfabetizacion mediatica y normas como las reglas de transparencia para deepfakes del Reglamento de IA de la UE.
● Ejemplos
- 01
Llamadas automaticas con voz clonada por IA suplantando a un candidato presidencial para disuadir el voto en las primarias estadounidenses de 2024.
- 02
Redes coordinadas de cuentas escritas por LLM que amplifican una filtracion inventada durante una crisis geopolitica.
● Preguntas frecuentes
¿Qué es Desinformacion Generada por IA?
Contenido falso o enganoso producido o amplificado por IA generativa para enganar al publico, manipular la opinion o influir en elecciones, mercados o conflictos. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.
¿Qué significa Desinformacion Generada por IA?
Contenido falso o enganoso producido o amplificado por IA generativa para enganar al publico, manipular la opinion o influir en elecciones, mercados o conflictos.
¿Cómo defenderse de Desinformacion Generada por IA?
Las defensas contra Desinformacion Generada por IA combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.
¿Cuáles son otros nombres para Desinformacion Generada por IA?
Nombres alternativos comunes: Desinformacion sintetica, Propaganda con IA generativa.