AIの頭の中に思考空間

Anthropicの新しい研究論文は、言語モデルにおける「J-space」の概念を導入しています。これは、Claudeの処理において独自の役割を果たす内部の神経パターンとして明らかになりました。明示的な設計なしに訓練中に現れるJ-spaceは、Claudeが内部で推論し、思考を調整し、多段階の問題を解決することを可能にし、それらを自動プロセスと区別します。これらのパターンは、AIの不適切な行動に対する内部思考の監視を可能にし、AIの意識に関する洞察を提供し、意図的な決定と自動的な決定の間の具体的な区別を示唆しています。