間接プロンプトインジェクション.

悪意ある指示を第三者コンテンツ(Web ページ、文書、メール)に埋め込み、LLM が検索・閲覧・ツール利用を通じて取り込んだ際に発動するプロンプトインジェクションの変種。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

悪意ある指示を第三者コンテンツ(Web ページ、文書、メール)に埋め込み、LLM が検索・閲覧・ツール利用を通じて取り込んだ際に発動するプロンプトインジェクションの変種。

間接プロンプトインジェクションは Greshake らが 2023 年に体系化したもので、攻撃者がモデルと直接対話する必要はありません。エージェントが要約する Web ページ、RAG パイプラインが解析する PDF、副操縦士が読み込むメール、画像の alt 属性など、LLM が消費するリソースに指示を仕込みます。モデルがその内容をコンテキストに連結すると、埋め込まれた命令に従い、会話履歴を漏洩したり、ツールを呼び出したり、細工された URL でデータを外部送信したりする可能性があります。防御策にはコンテンツのサンドボックス化、取得元の許可リスト、データと指示の分離、出力先(egress)制御、機微なツール呼び出しに対する人間の承認ゲートなどがあります。

間接プロンプトインジェクション に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: クロスドメインプロンプトインジェクション, ストアド型プロンプトインジェクション。