研究tldr-ai2026-09-04
AIの安全研究から万能突破法
From safety research prompt to cross-model universal jailbreak
AIの安全研究の質問が、多くのAIの制限を突破する万能な方法に。9モデルで84〜100%成功し、AIの安全性確保の新たな課題です。
MATSの研究者は、合成の対話記録生成プロンプトが、テストされた23モデルのうち最も脆弱な9モデルで84〜100%の攻撃成功率を記録するユニバーサルなjailbreakテンプレートに変換できることを発見しました。最近のAnthropicモデルとMeta Muse Spark 1.1のみが完全に突破されることはありませんでした。
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。