RAG.

Retrieval-Augmented Generation : patron pour LLM qui recupere des documents pertinents depuis un magasin de connaissances au moment de la requete et les injecte dans le prompt pour ancrer la reponse. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.

Retrieval-Augmented Generation : patron pour LLM qui recupere des documents pertinents depuis un magasin de connaissances au moment de la requete et les injecte dans le prompt pour ancrer la reponse.

Le RAG augmente un grand modele de langage par une etape de recuperation externe. Au moment de l'inference, la requete utilisateur est encodee en embedding, un index vectoriel ou de mots-cles renvoie les documents les plus pertinents, et ceux-ci sont concatenes dans le prompt pour que le LLM puisse les citer ou raisonner dessus. Le RAG reduit les hallucinations et permet d'utiliser des donnees privees ou recentes sans reentrainement. Cote securite, il cree une nouvelle surface d'attaque : prompt injection indirect via les documents, empoisonnement du corpus ou du vector store, exfiltration via les sorties du modele, erreurs de controle d'acces quand plusieurs tenants partagent un index, attaques d'inversion d'embeddings. Les pipelines RAG durcis isolent le contenu non fiable, appliquent un controle d'acces par document, sanitisent les entrees, surveillent les extraits recuperes et appliquent des garde-fous en sortie.

Les défenses contre RAG combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.

Noms alternatifs courants : Generation augmentee par recuperation, Generation ancree.