Водяные знаки для ИИ.

Методы встраивания обнаруживаемого сигнала в ИИ-генерируемый контент, чтобы впоследствии можно было проверить его происхождение, модель источника или принадлежность обучающему набору. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Методы встраивания обнаруживаемого сигнала в ИИ-генерируемый контент, чтобы впоследствии можно было проверить его происхождение, модель источника или принадлежность обучающему набору.

Водяные знаки для ИИ охватывают несколько подходов: криптографические content credentials вроде C2PA, прикрепляющие подписанные манифесты к медиа; перцептуальные водяные знаки, слегка изменяющие пиксели или аудиосэмплы; и водяные знаки на уровне модели, смещающие сэмплинг токенов LLM — например, SynthID Text от Google — так, что генерируемый текст становится статистически детектируемым. Они поддерживают требования прозрачности EU AI Act, помогают платформам помечать ИИ-контент и используются в форензике дезинформации, мошенничества и защиты детей. Устойчивость к обрезке, перефразированию, сжатию и adversarial-атакам остаётся областью активных исследований, как и предотвращение деградации качества модели и утечки отпечатков обучающих данных.

Защита от Водяные знаки для ИИ обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Происхождение контента, Водяные знаки генеративного ИИ.