Nace AI、選択肢を評価するAI公開
Nace AI Open-Sources Drex 1.5: A 9B Decision Model That Scores Options, Not Text
Nace AIが、文章ではなく選択肢の評価に特化したAI「Drex 1.5」を公開。このAIは90億パラメータ以下のモデルで最高性能を達成し、AIが判断を下す場面で役立つでしょう。
Nace.AIは、エージェントやバックエンドのワークフロー向けの9Bの意思決定モデルであるDrex 1.5をオープンソース化しました。Drex 1.5の意思決定モデルはテキストを生成しません。状態と型付きの質問を読み込み、各選択肢の確率を返します。Naceは、公開されているDecision Index 0.3.1で58.08点を報告しており、これは10Bパラメータ以下のモデルで最高のスコアです。モデルの重みはHugging Faceで公開されており、ホスト版はOpenRouterで利用可能です。TL;DRサイズ: 8.95B parameters(密)、bf16の重みは約18 GBです。デフォルトのContextは16,384 tokensで、最大131,072まで対応します。動作環境: bf16で1つのCUDA GPU(24 GBのA10Gでテスト済み)。Q8_0 GGUF(約9.5 GB)はApple siliconおよびCPUで動作します。性能: Decision Index 0.3.1(公開版)で58.08点。これはJev 1.13.0(57.96点)のタイバンド内です。最高点: 32Kから128K tokenのドキュメントで93.4%の精度。最低点: ACOS aspect sentimentにおけるレビューごとのF1スコアは7.4%で、Jevの29.5%と比較して低いです。結論:最高点: 1つのGPUでクローズドモデルに匹敵するオープンウェイト。最低点: 広範な知識と詳細な感情分析には弱い。Drex 1.5とは?Drex 1.5はNace.AI製の意思決定モデルで、1回のフォワードパスで固定された選択肢セットをスコアリングします。状態(テキストまたはJSON)と名前付きの質問を送信します。choice、noul(はい/いいえ)、ordinal scoreの3種類の質問タイプをサポートします。トークンはサンプリングされないため、temperatureやtop_pは適用されません。このモデルは、提供された選択肢のみで回答できます。POST /v1/systemone APIを提供します。これは、このカテゴリを始めたクローズドモデルであるTypeSafeのJevと同じリクエスト形式です。Naceによると、既存のJevクライアントはいくつかの環境変数を変更するだけで動作します。Drex 1.5はどのように機能しますか?バックボーンはMiMo-V2.6-Distill-Qwen-9Bであり、これは蒸留されたQwen 3.5 9Bモデルです。ハイブリッドアテンションを持つ32層で構成されており、フルアテンション層ごとに3つの線形アテンション層があります。個別のポインターヘッド(head.pt)が、バックボーンの隠れ状態から各選択肢をスコアリングします。各質問は、状態と質問に対して1回のパスを実行します。llama.cppでは、状態は一度エンコードされ、質問間で共有されます。NaceのDrexページ
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。