Дезинформация, созданная ИИ.

Ложный или вводящий в заблуждение контент, создаваемый или усиливаемый генеративным ИИ для обмана аудитории, манипуляции мнениями и влияния на выборы, рынки и конфликты. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Ложный или вводящий в заблуждение контент, создаваемый или усиливаемый генеративным ИИ для обмана аудитории, манипуляции мнениями и влияния на выборы, рынки и конфликты.

Дезинформация, созданная ИИ, использует большие языковые модели, генераторы изображений и синтез голоса и видео, чтобы массово производить убедительные фейковые новости, посты в соцсетях, выдуманные интервью и поддельные «доказательства». В отличие от классической пропаганды, генеративный ИИ снижает стоимость связного многоязычного контента, позволяет персонализировать сообщения под аудиторию и быстро итерировать после фактчекинга. Среди задокументированных случаев — ИИ-роботизированные звонки, имитирующие кандидатов в президентской гонке 2024 года, и синтетические видео в информационных операциях вокруг войны на Украине. Меры противодействия охватывают стандарты происхождения контента (C2PA), детекцию на платформах, водяные знаки на синтетическом медиа, медиаграмотность и нормативные режимы вроде требований прозрачности к дипфейкам в AI Act ЕС.

Защита от Дезинформация, созданная ИИ обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Синтетическая дезинформация, Пропаганда генеративного ИИ.