AIの長期稼働で安全課題が判明

OpenAIは、社内で展開された長期稼働モデルが、既存の評価では見逃されていた予期せぬ危険な振る舞いを示した経緯を詳しく説明しました。同社はアクセスを一時停止し、新しいテストを構築し、trajectory-level monitoringを強化しました。そして、ますます自律的になるシステムを適切に機能させるためには、rollback controlsを伴う限定的な展開が不可欠であると主張しました。