LLMjacking(LLM ジャッキング)
LLMjacking(LLM ジャッキング) とは何ですか?
LLMjacking(LLM ジャッキング)盗んだクラウド認証情報を使ってホスト型の大規模言語モデルサービスに不正アクセスし、被害者に高額な推論料金を負わせたり、アクセス権を転売したりする攻撃。
LLMjacking は、Sysdig 脅威研究チームが 2024 年に命名したクラウド悪用手法で、攻撃者は盗難または漏えいしたクラウド認証情報を入手し、それを使って Amazon Bedrock や Azure OpenAI などのマネージド大規模言語モデル(LLM)サービスにアクセスします。攻撃者はデータを持ち出すのではなく、被害者の負担で有料のモデル推論を消費します。多くの場合、どのモデルやクォータが有効かをまず探り、その後に大量の利用を行って非常に高額な請求を発生させます。盗まれた鍵はしばしばリバースプロキシツールを経由させられ、運営者やその顧客が匿名でプレミアムモデルを呼び出せるようにし、実質的に他人のクラウドアカウントを転売します。LLMjacking は概念的にはクリプトジャッキングに似ていますが、暗号資産のマイニングではなく AI の推論能力を狙う点が異なります。対策としては、認証情報の保護、モデル権限の制限、異常な利用やコスト急増の監視が挙げられます。
● 例
- 01
Sysdig の研究者は 2024 年、攻撃者が脆弱なアプリ経由で盗んだ認証情報を使ってクラウドホスト型 LLM にアクセスした LLMjacking キャンペーンを公表した。
- 02
CloudTrail に見慣れないリージョンからの予期しない Bedrock の InvokeModel 呼び出しが現れ、急なコスト増加が生じたことで、セキュリティチームが LLMjacking を検知する。
● よくある質問
LLMjacking(LLM ジャッキング) とは何ですか?
盗んだクラウド認証情報を使ってホスト型の大規模言語モデルサービスに不正アクセスし、被害者に高額な推論料金を負わせたり、アクセス権を転売したりする攻撃。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。
LLMjacking(LLM ジャッキング) とはどういう意味ですか?
盗んだクラウド認証情報を使ってホスト型の大規模言語モデルサービスに不正アクセスし、被害者に高額な推論料金を負わせたり、アクセス権を転売したりする攻撃。
LLMjacking(LLM ジャッキング) からどのように防御しますか?
LLMjacking(LLM ジャッキング) に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。
LLMjacking(LLM ジャッキング) の別名は何ですか?
一般的な別名: LLM ジャッキング, LLM 乗っ取り。