Sécurité RAG.

Discipline visant à sécuriser les pipelines de génération augmentée par récupération afin que les documents, stores vectoriels et étapes de retrieval qui alimentent un LLM ne puissent pas être empoisonnés, détournés ou utilisés pour exfiltrer des données. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.

Discipline visant à sécuriser les pipelines de génération augmentée par récupération afin que les documents, stores vectoriels et étapes de retrieval qui alimentent un LLM ne puissent pas être empoisonnés, détournés ou utilisés pour exfiltrer des données.

Le RAG permet à un LLM d'ancrer ses réponses dans un corpus externe — fichiers, bases de données, intranet, documents clients. Chaque retrieval est aussi une surface d'attaque. Menaces : injection de prompt indirecte via documents malveillants, empoisonnement du store vectoriel biaisant la recherche, attaques dans l'espace des embeddings exfiltrant des passages sensibles, autorisations trop larges renvoyant des documents interdits, fuites via les logs de prompts. L'OWASP LLM Top 10 en couvre plusieurs (LLM01, LLM02, LLM06, LLM08). Contrôles : contrôle d'accès strict sur les index, sanitisation du contenu avant chunking, sources signées et provenancées, journaux d'audit de retrieval, filtrage des sorties, et application des mêmes politiques DLP et identités que sur le stockage source.

Les défenses contre Sécurité RAG combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.

Noms alternatifs courants : RAG sécurisé, Durcissement RAG.