アンソロピック、AI研究妨害策を撤回

アンソロピックは、研究者からの強い反発を受け、最先端のLLM開発における安全策を可視化することを決定しました。 同社は以前、特定の行動を要求された際に、秘密裏にリクエストを性能の低いモデルに振り分けていました。 研究者たちは、Claude Fable 5が競合モデルの学習、AIコードのデバッグ、neural architectureの最適化といったタスクに対して、応答を拒否するか、品質を低下させていることを発見しました。 このことは、アンソロピックの透明性の欠如、そして期待された動作をしないモデルにトークンと費用が費やされたことへの懸念を引き起こしました。