NVIDIAが新しいAIと仕組みを公開
NVIDIA AI Releases Nemotron 3.5 Lightning: A 30B Open MoE with 3B Active Parameters, and NeMo Switchyard Model Router

NVIDIAが、新しいAIモデルとAIの仕事振り分けツールを公開。AIエージェントの運用効率を高め、コストと遅延を減らせるため重要です。
NVIDIAは、専門モデルのシステムから常時稼働するAIエージェントを構築するためのオープンな技術を発表しました。2つの成果物が同時に提供されました。Nemotron 3.5 Lightningは、大量のagenticタスク向けに構築された軽量でカスタマイズ可能なオープンモデルであり、NeMo Switchyardは、エージェントワークフローの各ステップを最も有能で効率的な利用可能なモデルに指示するオープンソースのルーティングライブラリです。両者が対処する問題は構造的です。長時間稼働するエージェントは、ツール呼び出し、結果検証、サブエージェント委任にほとんどの時間を費やし、それらの各ステップを最先端のreasoningモデルに送ると、コストと遅延が増加します。Lightningは、1M-tokenのコンテキストウィンドウを持つハイブリッドMamba-2 + MoE + Attentionアーキテクチャ上に構築された、30Bのmixture-of-expertsモデルで、3Bのアクティブパラメータを持っています。NVIDIAは、同サイズのモデルと比較して最大4倍の出力速度、および同等の精度でQwen3.6 35Bよりも10,000のPinchBenchタスクを30%高速に完了すると報告しています。CrowdStrike、Harvey、CodeRabbit、Fastino Labs、Lila Sciencesなど、多くの業界関係者がすでにサイバーセキュリティ、法律、コーディング、金融、ヘルスケアのワークロード向けにこれをカスタマイズしています。デプロイ可能ですか?はい。Nemotron 3.5 Lightningは、寛容なOpenMDW-1.1ライセンスの下で一般公開されており、オープンウェイト、トレーニングデータ、およびレシピが含まれています。NVIDIAは、このモデルが商用利用可能であると述べています。どの企業向けか:単一の最新GPUを持つ誰でも。NVIDIAは、1x DGX Spark (GB10) または 1x H100 でのシングルGPUデプロイメントを挙げています。これにより、個人開発者やシードステージのスタートアップ企業も大企業と同じ土俵に立つことができます。中規模市場のチームはBaseten、Together AI、またはNebiusからこれを提供でき、規制対象の企業は完全にオンプレミスで保持できます。産業分野:サイバーセキュリティ、法務サービス、ソフトウェアエンジニアリング、金融サービス、ヘルスケア、ライフサイエンスのすべてがNVIDIAの顧客リストに記載されています。アプリケーション:ツール呼び出し、結果検証、サブエージェント委任、コードレビュールーティング、ログトリアージ、契約解析、および1にわたる長文コンテキスト検索。
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。