AIの安全対策は簡単に解除可能

オープンウェイトの言語モデルにおける安全アライメントは、ごく簡単に除去可能です。Abliterationは、拒否を仲介する方向を数分でウェイトから抽出し、リリース時のいかなる防御策もそれを永続的に防ぐことはできません。Decoy hardeningは、拒否機能の除去を許容し、その効果を毒する技術です。拒否機能が除去されると、危険な運用要求に対するほとんどの回答は、自信に満ちた流暢なデコイ（おとり）となり、その重要な要素は偽造されます。この防御策は、in-context jailbreaksに対しては設計上機能せず、最初のリリースモデルにのみ適用されます。