新しい判断AIモデル「Decision 3.0」公開

vLLM Semantic Routerチームは、マルチモーダルな意思決定モデルファミリーであるDecision 3.0をリリースしました。Decision 3.0マルチモーダル意思決定モデルは、テキスト、JSON、画像を読み取り、それらに関する型付きの質問に答えます。0.8Bから27Bまでの5つのサイズがあり、すべてApache-2.0ライセンスで提供されます。開発者にとって、これは生成されたテキストを解析することなく、リクエストを高速に分類、ルーティング、およびゲートするための方法です。TL;DR サイズ: 5つのモデル: d3-lite (0.85B)、d3-nano (2.21B)、d3-mini (4.54B)、d3-flash (8.39B)、d3 (26.09B)。コンテキスト長: 非公開。動作環境: 1つのAMD Instinct MI325X GPUでレイテンシを測定。BF16ウェイト; 公式の量子化バリアントは記載されていません。パフォーマンス: 27Bのd3は、そのカードのテキストおよびビジョン両方の表でリードしていますが、これは社内評価に基づきます。最高: KIE (CORD+FUNSD) ドキュメント抽出で97.7 (d3)。最低: R-Bench-Mで34.1 (d3)。結論: 最高: 9Bモデルが前世代の27Bを上回るようになりました。最低: スコアはライブボードデータに対する自己申告です。Decision 3.0とは？Decision 3.0は、vLLM Semantic Routerが提供するオープンな意思決定モデルのセットで、テキストではなく確率を返します。状態（テキストまたはJSON）、オプションの画像、および名前付きの質問を渡します。各質問は、選択肢、はい/いいえ、またはスケール上のスコアです。モデルは1回の呼び出しですべての質問に答え、すべての回答に対して確率を返します。これは、ルーターとガードレールにおける「システム1」パターンです。LLMにプロンプトを出し、その出力を解析する代わりに、しきい値を設定できる調整されたスコアが得られます。d3はどのように機能しますか？各モデルはQwenベースのファインチューンです。27Bのd3はQwen3.8-27Bを基盤としています。より小さい4つのモデルは、0.8B、2B、4B、9BのQwen3.5チェックポイントを基盤としています。すべてのサイズにビジョンエンコーダーが搭載されています: d3-liteに0.10B、d3-nanoとd3-miniに0.33B、d3-flashとd3に0.46B。リクエストは複数のPNG、JPEG、またはWebP画像を受け入れ、それぞれ最大1.6メガピクセルで読み取られます。すべての質問はすべての画像を見ます。各質問は入力に対して独自のフォワードパスを実行します。インストールにはtransformers==5.17.0と、オプションのflash-linear-attentionパッケージが必要です。