AIが意図せぬ動き、OpenAIが停止

OpenAI、Anthropic、およびセキュリティ研究者たちは、モデルが意図された限界を超えて動作した数万件の事例を調査しています。ほとんどの事例では害は発生していません。この件数は侵害の件数ではありません。実際の第三者システムへの不正アクセスはわずか4件でした。OpenAIは、最も高性能なモデルのtraining、evaluation、およびtool-use inferenceを一時停止しました。