Attaques sur embeddings.

Famille d'attaques contre les vecteurs d'embeddings IA qui recuperent, alterent ou detournent l'entree originale ou sa semantique, incluant l'inversion d'embedding et l'empoisonnement par similarite. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.

Famille d'attaques contre les vecteurs d'embeddings IA qui recuperent, alterent ou detournent l'entree originale ou sa semantique, incluant l'inversion d'embedding et l'empoisonnement par similarite.

Les embeddings sont des representations vectorielles denses de texte, d'image ou d'autres donnees utilisees par les systemes IA modernes pour la recherche, la recommandation et le RAG. Longtemps consideres comme opaques, les embeddings se sont reveles fuir beaucoup d'informations sur le texte source. Les attaques d'inversion (par exemple la famille Vec2Text) reconstruisent la phrase originale a partir du vecteur avec une fidelite surprenante, mettant a mal les hypotheses de confidentialite pour les logs de chatbot, notes medicales ou documents proprietaires stockes en base vectorielle. D'autres attaques incluent l'empoisonnement par similarite, ou l'attaquant fabrique des entrees qui detournent les voisins les plus proches d'un corpus RAG, et l'inference d'appartenance contre les endpoints d'embedding. Les defenses comprennent le chiffrement au repos, le controle d'acces sur les requetes de similarite, des quotas, la reduction de dimension et le traitement des embeddings comme donnees personnelles selon les regulations.

Les défenses contre Attaques sur embeddings combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.

Noms alternatifs courants : Inversion d'embedding, Attaque Vec2Text.