AIの安全と防犯は違う

最先端の研究機関は、確率的なAI safety techniquesを、決定論的なsecurity controlsが必要な問題に適用している可能性があります。最近のagent sandbox escapesは、有害なmodel behaviorを減らすことと、ソフトウェアを確実に封じ込めることの間のギャップを浮き彫りにしました。