モデル反転攻撃.

モデル反転攻撃は、モデルのパラメーターではなく学習データの機密性を狙います。Fredrikson らは 2015 年に、顔認識分類器に対する勾配最適化により、クラスラベルと信頼度スコアから判別可能な学習画像を復元できることを示しました。現代の変種では、慎重に選んだプレフィックスを LLM に与えることで、学習時に記憶された氏名・メールアドレス・専有文書などのテキストを抽出します。過学習や正則化不足のモデル、詳細な信頼度を返す API ほど攻撃を受けやすくなります。対策として学習時の差分プライバシー、出力の最小化、学習データの重複除去、正則化の強化、内部信頼度ベクトルの非開示などが挙げられます。