AI記事考察ノート

LLMの安全性維持ヘッドと攻撃に対する脆弱性：新たな研究から明らかになったメカニズム

大規模言語モデルにおけるジャイルブレイク攻撃に対する強固な有害特性: 注意力ヘッドの特殊化から得られたメカニズム的証拠

査読前の可能性がある研究情報

大規模言語モデルにおけるジャイルブレイク攻撃のメカニズムが解明され、安全性維持ヘッドと敵対的に脆弱化したヘッドの役割が明らかに