AIが賢くなるための工夫

Recursive self-improvement (RSI)とは、超知能を持つ機械が、より優れた機械を設計して自分自身を改善し、あらゆる知的活動において人間を超えることです。現代のAIにおけるフィードバックループでは、モデルがトレーニングパイプラインとデプロイメントシステムを改善し、それによって性能が向上したより良い後継モデルが可能になります。ハーネスとは、ベースモデルを取り囲むシステムであり、実行を調整し、モデルがどのように考え、計画し、ツールを呼び出して行動し、コンテキストを認識・管理し、成果物を保存し、結果を評価するかを決定します。この記事では、ハーネスエンジニアリングに関する研究と、それがRSIにどのように貢献するかについて考察します。