AIの安全を評価する新方法

Transluceは、AI開発会社に組み込まれた独立した評価者が、multi-agent coordination、targeted persuasion、evaluation awareness、concealed reasoningといったリスクをどのように調査できるかを概説しました。提案されたアプローチには、agent swarmsの監視、トレーニング方法の検証、特権的なアクセスのもとでの未公開モデルのテストなどが含まれます。