Google、AIの道具利用データ作成法

AI（LLM）が道具を確実に呼び出すように訓練するには、ユーザーの質問と正しい道具利用の連鎖を組み合わせたデータセットが必要です。このデータを大規模に作成することは、これまで時間がかかり、費用も高額でした。Google、東京大学、理化学研究所AIP、東北大学の研究者チームがToolGradを発表しました。この研究は、通常のパイプラインを逆転させます。まず検証済みの道具の連鎖を構築し、次に質問を作成するのです。結果として得られたデータ500サンプルでfine-tuningされたGemma-3モデルは、Berkeley Function Calling Leaderboardで最先端の独自モデルと並ぶスコアを達成しています。これは展開可能でしょうか？はい、可能です。コードはApache-2.0で、ToolGrad-500データセットと1B、4B、12BモデルはHugging Faceで公開されており、PyPIパッケージもあります。質問先行型生成の問題点Prior pipelines such as ToolBench and ToolACE follow a query-first recipe。システムはAPIのプールからサンプリングし、LLMに妥当なユーザー指示を考案させ、その後、その指示を満たす道具利用パスを見つけるために深さ優先探索（DFS）エージェントを派遣します。この探索は成功が保証されていません。行き詰まった場合、探索に費やされた計算は無駄になり、サンプルは破棄されます。この論文は、これを複雑でしばしば失敗するエージェント探索から価値ある軌跡を抽出するものであり、本質的に非効率的であると捉えています。ToolGradはこの順序を逆転させます。まず実際にAPIを実行することで、真の道具利用連鎖を構築し、次にその連鎖に一致するユーザーの質問を注釈付けします。明示的で機能する連鎖は、仮説的なプロンプトよりもはるかに曖昧さが少ないため、連鎖から質問へのステップは単一のLLM呼び出しで済みます。ループ内の4つのモジュール各イテレーションは、次の4つのモジュールを順番に実行します。API Proposerは、サンプリングされたAPIのセットを、現在のワークフローを拡張できるいくつかの候補に絞り込みます。API Executorsは、これらの候補を並行して実行し、詳細な実行レポートを生成します。API Selectorは、レポートをレビューし、最もパフォーマンスの良い単一の呼び出しを選択し、それをワークフローに追加します。その方向性のあるフィードバックは、テキスト勾配です。LLM Update