ステップファン、新AI「ステップ5」公開
StepFun Launches Step 5 Preview: A 600B-Total, 27B-Active MoE Model With 1M Context for Long-Horizon Agentic Work

StepFunが新AI「Step 5 Preview」を発表。6000億、100万トークンを扱い、複雑な作業を低コストでこなせるため、専門分野でのAI活用を加速させます。
StepFunは、エージェントワーク向けの新しい主力モデルであるStep 5 Previewをリリースしました。対象となるワークロードは、software engineering、professional knowledge work、およびfinanceです。主な売りはコストです。StepFunチームは、このモデルが同等の知能を大幅に低いタスクコストで提供すると述べています。これは、発表タイトルにある「Pareto frontier」の表現です。展開可能か?はい、ホスト型APIとして、またStepFun platform上で利用可能です。自己ホスティングはopen weightsの公開を待つ必要があります。StepFunは、open weightsが2026年10月15日に公開されると述べています。単純な計算では、600B parametersは、KV cacheを考慮しない場合、BF16で約1.2 TBを必要とします。weightsが出荷されたら、multi-GPU server hardwareを計画してください。What StepFun Shipped Step 5 Previewは、sparse Mixture-of-Experts (MoE) モデルです。合計で約600B total parametersを持ち、トークンあたり約27Bをアクティブ化します。これは、トークンあたり約4.5%のweightsに相当します。公式モデルドキュメントには、以下のスペックが記載されています。Model ID: step-5-preview Context window: 1M tokens Input: text, images, and video Output: text Reasoning effort: low, medium, and high Streaming, tool calling, JSON Mode, JSON Schema,およびprompt caching。研究タスクにおいて、StepFunチームは、このモデルが単一のagent actionで950回のweb fetchesを調整したと述べています。StepFunチームはまた、Step Planを通じてClaude Codeとの統合も文書化しています。Architecture: Narrow and Deep StepFunはネットワークを広げませんでした。Pandailyによると、92層のTransformer layersを狭く深いレイアウトで積み重ねました。研究チームは、より深いスタックがimplicit multi-hop reasoningのためにより長いパスを提供すると主張しています。これは、agentが検索、コード実行、ツールからの戻り値を読み取る際の長いprefill中に重要になります。トレーニングは、on-policy、long-horizon reinforcement learningに依存しています。StepFunは、MoE routing全体でのbit-wise train and inference alignmentを挙げています。その他の記載されている技術には、MTP-3 speculative decoding、FP8 MoE、およびKV-cache offloadが含まれます。StepFunは、long-horizon RLで3倍以上のend-to-end speedupを報告しています。Interactive Explainer (function(){var f=document.getElementById("mtp-step5-x");windo
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。