OWASP LLM Top 10
OWASP LLM Top 10 とは何ですか?
OWASP LLM Top 10大規模言語モデルを基盤とするアプリケーションに対し、最も重大な 10 のセキュリティリスクをまとめた OWASP のリスト。
2023 年に初版が公開され、"OWASP Top 10 for LLM Applications" として更新が続いており、プロンプトインジェクション(LLM01)、不適切な出力処理、学習データの汚染、モデル DoS、サプライチェーン脆弱性、機微情報の漏えい、安全でないプラグイン設計、過度な権限委譲、過信、モデル窃取などのリスクを体系化しています。各項目には攻撃シナリオ、ビジネス影響、開発者・アーキテクト・セキュリティチーム向けの推奨対策が含まれます。Web 版 OWASP Top 10 と同じ枠組みを継承し、NIST、ENISA、MITRE ATLAS、EU AI Act のガイドラインからも参照される、LLM 安全運用の事実上の基準です。
● 例
- 01
RAG アプリケーションの脅威モデリングで LLM01(プロンプトインジェクション)と LLM02(不適切な出力処理)を必須チェック項目に据える。
- 02
企業向け GenAI 導入を承認する前に、ベンダーのセキュリティ質問票を OWASP LLM Top 10 にマッピングする。
● よくある質問
OWASP LLM Top 10 とは何ですか?
大規模言語モデルを基盤とするアプリケーションに対し、最も重大な 10 のセキュリティリスクをまとめた OWASP のリスト。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。
OWASP LLM Top 10 とはどういう意味ですか?
大規模言語モデルを基盤とするアプリケーションに対し、最も重大な 10 のセキュリティリスクをまとめた OWASP のリスト。
OWASP LLM Top 10 からどのように防御しますか?
OWASP LLM Top 10 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。
OWASP LLM Top 10 の別名は何ですか?
一般的な別名: OWASP LLM アプリケーション Top 10, OWASP LLM01-LLM10。