Mistral AIがLeanstral 1.5を発表：587の問題を解決するコードエージェントモデル

本日、Mistral AIはLeanstral 1.5を発表しました。これはLean 4用に構築されたコードエージェントモデルです。このリリースは自動定理証明と証明工学を対象としています。重みはApache 2.0の下でオープンです。無料のAPIエンドポイント、leanstral-1-5が現在稼働中です。Leanstral 1.5は、以前のLeanstral-2603モデルを更新したものです。これはMistral Small 4ファミリーに属します。

Leanstral 1.5は、Lean 4用のコードエージェントモデルです。Lean 4は、論理的なステップを機械的にチェックする証明補助ツールです。Lean 4は、完璧な空間やRustのフラグメントの特性などのオブジェクトを表現できます。アーキテクチャは専門家の混合（MoE）で、各トークンをいくつかの専門的なサブネットワークにルーティングします。これにより、計算量は低く抑えつつ、全体の容量は大きく保たれます。Leanstralは128の専門家を使用し、トークンごとに4つがアクティブになります。総サイズは119Bパラメータで、トークンごとに6.5Bがアクティブです。コンテキストの長さは256kトークンです。入力はマルチモーダルで、テキストと画像を受け付けます。出力はテキストのみです。

MistralがLeanstral 1.5を訓練した方法は、3つの段階で行われます。これらは、中間訓練、監視付きファインチューニング、そしてCISPOを用いた強化学習です。2つの強化学習環境がモデルのエージェント行動を形成しました。マルチターン環境では、モデルは定理のステートメントを受け取り、それを証明または反証する必要があります。証明を提出し、Leanコンパイラのフィードバックを読み取り、試行を重ねて成功するか予算を使い果たすまで洗練させます。コードエージェント環境では、Leanstralは生のファイルシステム内で動作します。ファイルを編集し、bashコマンドを実行し、Lean言語サーバーを使用します。そのサーバーは、リアルタイムで目標、エラー、型情報を提供します。これにより、部分的な証明を完成させたり、補助的な補題を構築したり、コンテキストの圧縮を通じて持続することができます。圧縮は、以前のコンテキストを圧縮し、長いタスクがウィンドウに収まるようにします。正確性は、MistralのSafeVerifyのフォークによってターゲット定理に対して検証されます。

Mistralチームは、Leanstral 1.5がminiF2Fを飽和させると報告しています。両方のtで100%に達します。