1つのAIで7分野を予測可能に

PhAI Labs、CUHK、復旦大学、スタンフォード大学、オックスフォード大学、プリンストン大学の研究者たちは、ワールドモデルを構築するためのドメインにとらわれないフレームワークであるJEPA-Anythingを発表しました。新しい予測モデルを各分野ごとに設計する代わりに、非常に異なるシステムに1つの共通の学習レシピを適用します。これは、Orthogonal Predictive Factorization (OPF) と呼ばれる手法で、joint-embedding predictive architectures (JEPAs) を拡張したものです。研究チームは、ビジョン、生物学、臨床軌道、制御、分子動力学、物理場、天気という7つのドメインでこれをテストしました。JEPA-Anythingはどのような問題を解決するのでしょうか？I-JEPAやV-JEPA 2のような標準的なJEPAは、コンテキストエンコーダー、EMAターゲットエンコーダー、および1つの予測器を使用します。予測器は1つのモノリシックなターゲット埋め込みを出力します。研究チームはこれを容量割り当て問題と呼んでいます。高分散構造が支配的になり、弱いモードは競合する勾配を受け取ります。Orthogonal Predictive Factorizationはどのように機能するのでしょうか？OPFは、幅dの潜在ターゲットを、幅rのK個の学習された部分空間に分割します。ここでd = K × rです。ほとんどの実験ではK = 4を使用しています。各因子には専用の予測器が割り当てられます。因子の予測は、プロジェクター行列のムーア・ペンローズ逆行列を介して再結合されます。その結果、デコード、計画、またはロールアウトのための1つの完全な潜在状態が得られます。3つの正則化器が因子の有用性を維持します。Orthogonality loss：各プロジェクター内の列を正規直交に保ち、異なるプロジェクターを重複しない部分空間に保ちます。Factor-activity loss：座標ごとの標準偏差に対するヒンジにより、因子が機能停止しないようにします。Encoder-variance loss：オンラインエンコーダーに直接的なアンチコラプス信号を送ります。OPF損失は、各ドメインの元のトレーニング損失に単純に追加されます。ドメインアダプターはトークン化とエンコーダーを処理し、コアライブラリは共有コアをOrthogonalFactorProjectionとして公開します。安定した合成には直交性が重要です。CITRIS Interventional Pongでは、容量が一致した制約のないマルチヘッドモデルの条件数は438.52でした。直交性