LLM ファイアウォール.

ユーザーと大規模言語モデルの間に配置され、プロンプト・検索コンテキスト・出力をリアルタイムで検査し、ポリシー違反のトラフィックを遮断または書き換えるセキュリティコントロール。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

ユーザーと大規模言語モデルの間に配置され、プロンプト・検索コンテキスト・出力をリアルタイムで検査し、ポリシー違反のトラフィックを遮断または書き換えるセキュリティコントロール。

LLM ファイアウォールは AI ファイアウォール、LLM ゲートウェイなどとも呼ばれ、LLM エンドポイントの入出力トラフィックに対して検査・分類・ポリシー適用を行います。代表的な機能には、プロンプトインジェクションとジェイルブレイク検知、PII やシークレットのマスキング、コンテンツモデレーション、スキーマ/ツール呼び出し検証、ID 単位のレート制限、RAG エグレス制御、詳細な監査ログがあります。製品・OSS の例として LLM Guard、Prompt Shield、Lakera Guard、Cloudflare、F5、Palo Alto、主要ハイパースケーラの提供サービスがあります。モデル内ガードレール、安全な RAG 設計、ID 認識型アクセス制御、MLSecOps を補完しますが置き換えるものではありません。多層防御アーキテクチャでベンダーの safety の上に組織固有のポリシーを重ねるときに最も効果を発揮します。

LLM ファイアウォール に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: AI ファイアウォール, LLM ゲートウェイ。