LLMjacking(LLM ジャッキング).

盗んだクラウド認証情報を使ってホスト型の大規模言語モデルサービスに不正アクセスし、被害者に高額な推論料金を負わせたり、アクセス権を転売したりする攻撃。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

盗んだクラウド認証情報を使ってホスト型の大規模言語モデルサービスに不正アクセスし、被害者に高額な推論料金を負わせたり、アクセス権を転売したりする攻撃。

LLMjacking は、Sysdig 脅威研究チームが 2024 年に命名したクラウド悪用手法で、攻撃者は盗難または漏えいしたクラウド認証情報を入手し、それを使って Amazon Bedrock や Azure OpenAI などのマネージド大規模言語モデル(LLM)サービスにアクセスします。攻撃者はデータを持ち出すのではなく、被害者の負担で有料のモデル推論を消費します。多くの場合、どのモデルやクォータが有効かをまず探り、その後に大量の利用を行って非常に高額な請求を発生させます。盗まれた鍵はしばしばリバースプロキシツールを経由させられ、運営者やその顧客が匿名でプレミアムモデルを呼び出せるようにし、実質的に他人のクラウドアカウントを転売します。LLMjacking は概念的にはクリプトジャッキングに似ていますが、暗号資産のマイニングではなく AI の推論能力を狙う点が異なります。対策としては、認証情報の保護、モデル権限の制限、異常な利用やコスト急増の監視が挙げられます。

LLMjacking(LLM ジャッキング) に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: LLM ジャッキング, LLM 乗っ取り。