AIの強みは仕組みより環境

Rafa Schwingerは、Claude MythosとFableをリバースエンジニアリングし、その堀（競争優位性）はアーキテクチャ（設計）ではなく環境ファウンドリ（学習環境）にあると主張しています。AIの能力は、基盤となる基礎と、その上に抽出される評価可能な信号の掛け合わせとして分解され、テキストや生の計算能力がもはや希少なものでなくなった今、検証可能な報酬が希少で決定的な入力となっています。このレシピは、密な事前学習、報酬ハッキングの健全性が実際の拘束条件となるGRPOスタイルの検証器RL、32Kのアクティブな状態でも数百万トークンのウィンドウを凌駕する学習されたコンテキスト折り畳みによる長期間のプロセス報酬、そして努力のダイヤルとして公開されるbest-of-Nテスト時計算を積み重ねています。