Metaが新しい高性能AIを公開
Meta Releases Muse Spark Open: 816B Open-Weight MoE With 1M Context
Metaが、テキストや画像などを理解する高性能AI「Muse Spark Open」を無料公開。米国製無料公開AIで最高性能とされ、少ない計算資源で高度なAIを構築できる。
Meta Superintelligence Labsは、Muse Sparkモデルのオープンウェイト版であるMuse Spark Openをリリースしました。Muse Spark Openは、トークンあたり42Bのパラメータをアクティブ化する816BパラメータのMixture-of-Expertsモデルです。テキスト、画像、動画、音声を入力として受け取り、テキストを返し、1Mトークンのコンテキストウィンドウを保持します。Metaチームは、これを現在までで最も高性能な米国製オープンウェイトモデルであると主張しています。開発者にとっての本当のニュースはデプロイメントです。NVFP4ビルドは2台のApple M5 Ultra Mac Studioで動作します。TL;DR サイズ: 合計816B / アクティブパラメータ42B(256個の専門家、トークンあたり8個がアクティブ)。1Mトークンのコンテキスト。動作環境: MLXを介した2台のMac Studio(M5 Ultra、各512GB)。NVFP4を使用する4つのBlackwell Ultra GPUまたは8つのH200。Unsloth 2-bit GGUFを介した約300GBのセットアップ。パフォーマンス: エージェント的なツール使用において強力。大規模なオープンモデルの中ではコーディングにおいて中程度の位置。最高: MCP-Atlas 89.2(Metaの比較表でトップスコア)。最低: Terminal-Bench 2.1 76.4(Kimi K3 (85.0)、GLM 5.3 (83.9)、Qwen3.8 (82.0)に劣る)。Muse Spark Openとは?Muse Spark Openは、Metaが開発したネイティブなマルチモーダルMoEモデルで、コーディングと長期間のエージェント的な作業のために構築されています。ウェイトはHugging FaceでBF16およびNVFP4で提供されます。オープンバージョンには追加の安全性に関する後処理が施されています。Metaチームは、これによりシステムレベルのガードレールなしでより堅牢になると述べています。アーキテクチャはどのように機能しますか?モデルカードには62層と8192の隠れ次元が記載されています。各MoE層は256個の専門家を保持し、top-kルーティングによりトークンあたり8個がアクティブ化されます。アテンションはgrouped-queryで、128個のクエリヘッドと16個のKVヘッドを備えています。別の1.8BパラメータのPerception Encoderが視覚入力を処理します。語彙は202,048トークンで、トレーニングデータは100以上の言語をカバーしています。推論の深さは reasoning_effort (low、medium、high、またはxhigh)で設定されます。デフォルトはxhighです。Muse Spark Openはベンチマークでどのように機能しますか?Metaは、最大推論努力でKimi K3、GLM 5.3、Qwen3.8-2.4T-A95Bなどと比較しています。その最も強力な結果は、ツール使用と知識の信頼性に関するものです。MCP-Atlas: 89.2、
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。