LLM ファイアウォール
LLM ファイアウォール とは何ですか?
LLM ファイアウォールユーザーと大規模言語モデルの間に配置され、プロンプト・検索コンテキスト・出力をリアルタイムで検査し、ポリシー違反のトラフィックを遮断または書き換えるセキュリティコントロール。
LLM ファイアウォールは AI ファイアウォール、LLM ゲートウェイなどとも呼ばれ、LLM エンドポイントの入出力トラフィックに対して検査・分類・ポリシー適用を行います。代表的な機能には、プロンプトインジェクションとジェイルブレイク検知、PII やシークレットのマスキング、コンテンツモデレーション、スキーマ/ツール呼び出し検証、ID 単位のレート制限、RAG エグレス制御、詳細な監査ログがあります。製品・OSS の例として LLM Guard、Prompt Shield、Lakera Guard、Cloudflare、F5、Palo Alto、主要ハイパースケーラの提供サービスがあります。モデル内ガードレール、安全な RAG 設計、ID 認識型アクセス制御、MLSecOps を補完しますが置き換えるものではありません。多層防御アーキテクチャでベンダーの safety の上に組織固有のポリシーを重ねるときに最も効果を発揮します。
● 例
- 01
ゲートウェイがクレジットカード番号を含むプロンプトを LLM API に届く前にブロックする。
- 02
LLM ファイアウォールが、既知のプロンプトインジェクション署名を含む文書を RAG コンテキストに加える前に除去する。
● よくある質問
LLM ファイアウォール とは何ですか?
ユーザーと大規模言語モデルの間に配置され、プロンプト・検索コンテキスト・出力をリアルタイムで検査し、ポリシー違反のトラフィックを遮断または書き換えるセキュリティコントロール。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。
LLM ファイアウォール とはどういう意味ですか?
ユーザーと大規模言語モデルの間に配置され、プロンプト・検索コンテキスト・出力をリアルタイムで検査し、ポリシー違反のトラフィックを遮断または書き換えるセキュリティコントロール。
LLM ファイアウォール からどのように防御しますか?
LLM ファイアウォール に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。
LLM ファイアウォール の別名は何ですか?
一般的な別名: AI ファイアウォール, LLM ゲートウェイ。