間接プロンプトインジェクション.

間接プロンプトインジェクションは Greshake らが 2023 年に体系化したもので、攻撃者がモデルと直接対話する必要はありません。エージェントが要約する Web ページ、RAG パイプラインが解析する PDF、副操縦士が読み込むメール、画像の alt 属性など、LLM が消費するリソースに指示を仕込みます。モデルがその内容をコンテキストに連結すると、埋め込まれた命令に従い、会話履歴を漏洩したり、ツールを呼び出したり、細工された URL でデータを外部送信したりする可能性があります。防御策にはコンテンツのサンドボックス化、取得元の許可リスト、データと指示の分離、出力先(egress)制御、機微なツール呼び出しに対する人間の承認ゲートなどがあります。