OWASP LLM Top 10.

大規模言語モデルを基盤とするアプリケーションに対し、最も重大な 10 のセキュリティリスクをまとめた OWASP のリスト。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

大規模言語モデルを基盤とするアプリケーションに対し、最も重大な 10 のセキュリティリスクをまとめた OWASP のリスト。

2023 年に初版が公開され、"OWASP Top 10 for LLM Applications" として更新が続いており、プロンプトインジェクション(LLM01)、不適切な出力処理、学習データの汚染、モデル DoS、サプライチェーン脆弱性、機微情報の漏えい、安全でないプラグイン設計、過度な権限委譲、過信、モデル窃取などのリスクを体系化しています。各項目には攻撃シナリオ、ビジネス影響、開発者・アーキテクト・セキュリティチーム向けの推奨対策が含まれます。Web 版 OWASP Top 10 と同じ枠組みを継承し、NIST、ENISA、MITRE ATLAS、EU AI Act のガイドラインからも参照される、LLM 安全運用の事実上の基準です。

OWASP LLM Top 10 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: OWASP LLM アプリケーション Top 10, OWASP LLM01-LLM10。