Атаки на эмбеддинги.

Эмбеддинги — это плотные векторные представления текста, изображений и других данных, используемые современными AI-системами для поиска, рекомендаций и RAG. Хотя ранее эмбеддинги считались непрозрачными, исследования показали, что они утечкают значительную информацию об исходном тексте. Атаки инверсии (например, семейство Vec2Text) восстанавливают исходное предложение по вектору с впечатляющей точностью, разрушая предположения о приватности логов чат-ботов, медицинских записей и собственных документов в векторных хранилищах. К прочим атакам относятся similarity poisoning, когда злоумышленник подбирает входы, перехватывающие ближайших соседей в корпусе RAG, и membership inference против эмбеддинг-эндпоинтов. Защита: шифрование векторов at rest, контроль доступа к запросам похожести, лимиты по частоте, понижение размерности и трактовка эмбеддингов как персональных данных в рамках законодательства о приватности.