NVIDIAが多機能AIを公開

NVIDIAは、常時稼働する企業向けエージェントのために構築されたオープンなビジョン言語モデルであるNemotron 3.5 Super VLをリリースしました。Nemotron 3.5 Super VLは、NVIDIAの120Bパラメータのmixture-of-expertsモデルで、トークンごとに12Bパラメータをアクティブ化します。テキスト、画像、ドキュメント、動画を読み込み、推論し、ツールを呼び出し、コードを記述する機能を1つのモデルで実現します。開発者にとっては、1つのオープンなチェックポイントで、個別のテキストモデルと個別のビジョンモデルを置き換えることができます。NVIDIAはまた、2つのエッジモデル、Nemotron 3.5 Bolt 74B-A9BとBolt E4Bも出荷しました。TL;DR サイズ：合計120Bパラメータ、アクティブ12B（MoE）。最大1Mトークンのコンテキスト。動作環境：NVFP4チェックポイントを使用する場合、1x DGX Spark、1x H200、2x H100、または1x GB200。BF16チェックポイントも公開されています。パフォーマンス：強力な推論、エージェント的なコーディング、ドキュメントビジョン。NVIDIAは、オープンな競合モデルと比較して、シングルGPUスループットが最大5倍高いと主張しています。最高スコア：GPQA-Diamond（NVFP4）で89.90。最低スコア：tau3-bench banking（NVFP4）で17.78。Nemotron 3.5 Super VLとは何ですか？これはオープンなマルチモーダルエージェントモデルです。ウェイトはOpenMDW-1.1ライセンスの下で提供されます。NVIDIAはまた、オープンデータセット、トレーニングレシピ、およびNeMo GymのRL環境もリリースしました。モデルカードには、テキスト、画像、動画入力とテキスト出力が記載されています。動画は最大2分のMP4クリップに制限されています。推論はチャットテンプレートを通じてオン/オフを切り替えることができます。アーキテクチャはどのように機能しますか？バックボーンはMamba-2、mixture-of-experts、およびattention層を交互に配置しています。各MoE層は512のルーティングされたエキスパートを保持します。C-RADIOビジョンエンコーダーとコネクタが、画像、ドキュメントページ、動画フレームを言語バックボーンに供給します。速度は4つの技術によって実現されます：マルチトークン予測：ネイティブドラフターが複数のトークンを提案し、1回のフォワードパスで検証します。LiLiCorr：DGX Spark向けの投機的ドラフターで、トークン生成を最大2.3倍高速化します。NVFP4と量子化対応蒸留：Blackwellでは4ビットのウェイトとアクティベーション、それ以外の場所では4ビットのウェイトと16ビットのアクティベーション。コンテキスト再利用：プレフィックスキャッシングにより、エージェントのターンをまたいでattentionキャッシュとMambaステートの両方を保持します。