RAG(検索拡張生成).

Retrieval-Augmented Generation:推論時に知識ストアから関連ドキュメントを取得し、プロンプトに差し込むことで LLM の応答に裏付けを与えるパターン。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

Retrieval-Augmented Generation:推論時に知識ストアから関連ドキュメントを取得し、プロンプトに差し込むことで LLM の応答に裏付けを与えるパターン。

RAG は外部検索ステップを組み合わせることで大規模言語モデルを補強します。推論時、ユーザーの問い合わせを埋め込みに変換し、ベクトルまたはキーワードインデックスから関連性の高いドキュメントを取得して、それらをプロンプトに連結します。これにより LLM はその内容を根拠に推論したり引用したりできます。RAG は幻覚(ハルシネーション)を抑え、再学習なしにプライベートデータや最新情報を活用できますが、新たな攻撃面も生みます。文書を介した間接プロンプトインジェクション、コーパスやベクトルストアへのデータポイズニング、モデル出力経由の情報漏洩、マルチテナント共有時のアクセス制御ミス、エンベディング反転攻撃などです。堅牢な RAG パイプラインでは、信頼できないコンテンツを隔離し、ドキュメント単位のアクセス制御を適用し、入力をサニタイズし、検索結果のスニペットを監視し、出力にもガードレールを設けます。

RAG(検索拡張生成) に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: 検索拡張生成, Grounded generation。