非標的脅威モデルにおける視覚言語モデルの新たな脱獄可能性：UJEM-KLの意義と課題

視覚言語モデル（VLM）に対する画像脱獄攻撃の研究において、勾配ベースの普遍的な画像脱獄がクロスモデル間での転移性に乏しいことが示されています。しかし、この研究では固定プレフィックスや応答パターンを強制しない非標的脅威モデルにおける脱獄可能性を探求しています。実験結果から高エントロピーのトークンで拒否反応が集中し、攻撃前でも非拒否トークンは上位候補に確率質量を持っていたことがわかりました。この観察に基づき、エントロピー最大化を通じてこれらの決定トークンでの拒否結果を逆転させつつ、低エントロピーの位置を安定化させるUntargeted Jailbreak via Entropy Maximization (UJEM)-KLという軽量攻撃手法が提案されました。この手法は3つのVLMと2つの安全基準において競争力のある白箱攻撃成功率と一貫した転移性向上を達成し、代表的な防御策下でも効果的です。