Обнаружение ИИ-контента.

Инструменты и методы, оценивающие, был ли текст, изображение, аудио или видео создан моделью ИИ, а не человеком. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Инструменты и методы, оценивающие, был ли текст, изображение, аудио или видео создан моделью ИИ, а не человеком.

Детекторы ИИ-контента сочетают статистические сигналы (perplexity, burstiness, аномалии распределения токенов), форензические артефакты (следы компрессии, шум сенсора, несоответствия освещения), встроенные водяные знаки (SynthID, C2PA, Adobe Content Credentials) и ML-классификаторы, обученные на известных ИИ-выводах. Их используют для trust and safety, академической добропорядочности, журналистики, защиты выборов, противодействия мошенничеству и соблюдения требований раскрытия в EU AI Act и AI Executive Order в США. Надёжность неоднородна: детекторы хуже работают при перефразировании, переводе, компрессии изображений или коротких текстах и дают ложные срабатывания, от которых страдают студенты и авторы. Лучшая практика — сочетать происхождение через водяные знаки, метаданные content credentials, оценки классификаторов и человеческое суждение, а не полагаться на один сигнал.

Защита от Обнаружение ИИ-контента обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Обнаружение ИИ-текста, Обнаружение дипфейков.