MetaがAIデータ転送の新技術発表

最先端のAIモデルを訓練し提供することは、今や計算の問題であると同時にネットワークの問題でもあります。all-reduceやall-to-allのような集団的な操作は、訓練中に何千ものアクセラレーターを同期させ、最も遅い転送がジョブ全体のペースを決定します。わずかなネットワークの摩擦でさえ、かなりの計算能力を直接的に無駄にしてしまいます。今週、MetaはMetaRoCEを発表しました。これは、汎用イーサネット上のAIワークロードのために特別に構築された、ゼロから設計されたRDMA転送プロトコルと説明されています。この設計は、その中心的な仮定において標準的なRoCEとは異なります。標準的なRoCEは、ネットワークがすべてのフレームを順番に配信することを期待し、PFCを活用し、マルチプレーンや大規模ネットワークでパフォーマンスを提供するパケットスプレーを推奨しません。MetaRoCEは代わりに、ファブリックを損失が多いものとして扱い、順序付け、パス選択、回復をNICに押し付けます。Metaは、Open Compute Project (OCP)を通じて、仕様、リファレンスソフトウェア実装、およびコンプライアンス・テストスイートをリリースしています。展開可能か？まだです。成果物は2026年10月に出荷される可能性があります。Metaは、2026年のOCP Global Summitで、MetaRoCEの仕様、DPDKに最適化されたソフトウェアリファレンス実装、およびその本番コンプライアンスフレームワークをリリースする可能性があります。ハードウェアサポートは初期段階です。MetaはAMD PensandoプログラマブルNICでそれを実証しており、他のベンダーによる追加の実装も進行中です。今のところ、これは調達の決定ではなく、ファブリックアーキテクチャの決定です。問題：ファブリックはパケットを認識し、NICは意図を認識します。Metaは、複数のデータセンターと地域にわたって、数十万のGPUにクラスターを拡張してきました。その規模では、ネットワークがあらゆる訓練ステップのクリティカルパスに位置します。all-reduceやall-to-allのような集団的な操作は何千ものアクセラレーターを同期させ、最も遅い転送がジョブ全体のペースを決定します。標準的なRoCEが制約となっています。それは、ネットワークがすべてのフレームを順番に配信することを期待し、PFCに依存し、マルチプレーンでパフォーマンスを提供するパケットスプレーを推奨しません。