NVIDIA、AI開発ツールを公開

NVIDIAは、NVIDIA Run:aiプラットフォーム全体をオープンソースソフトウェアとしてリリースしました。ソースコードはApache 2.0ライセンスの下、GitHubで提供されます。NVIDIA Run:aiのオープンソース化により、本番環境でのGPUスケジューリング、クォータ、ワークロード管理が開発者の手に渡ります。このリリースにより、Run:aiはNVIDIA DSX AI Factoryプラットフォームの一部となります。プラットフォームチームは、有償サブスクリプションなしでスタックを検査し、フォークし、セルフホストできるようになります。TL;DR サイズ: コントロールプレーン、クラスターサービス、インストーラー、CLI、MCPサーバーを含むモノレポです。ローカル開発ビルドでは約50のGoサービスが構築されます。動作環境: NVIDIA GPUを搭載したKubernetesまたはOpenShiftクラスター。ローカル開発はmacOSまたはLinuxで、8つのシミュレートされたTesla-A10 GPUを使用し、GPUは不要です。パフォーマンス: NVIDIAはこのリリースに関するプラットフォームレベルのベンチマークを公開していません。最高点: 関連するModel Streamerは、Azure上の8つのNVIDIA H100 VMでモデルを3倍から6倍高速にロードしました。最低点: コミュニティエディションにはNVIDIAのエンタープライズサポートがありません。ローカルビルドにはLinux上で16 GBのRAMと100 GBのディスクが必要です。NVIDIA Run:aiとは何ですか？NVIDIA Run:aiは、NVIDIAが提供するKubernetes向けのAIワークロードおよびGPUオーケストレーションプラットフォームです。共有GPUクラスター全体で開発、トレーニング、推論のワークロードをスケジューリングします。Kubernetesの上に動作し、Kubernetesを置き換えるものではありません。コントロールプレーンはワークロードの投入、リソース管理、監視を処理します。クラスターサービスは各Kubernetesクラスター上で動作し、GPUを意識したスケジューリングを追加します。ユーザーはWeb UI、CLI、REST API、およびAIアシスタント用のMCPサーバーを通じてこれにアクセスします。4つのモジュールコンポーネントとは何ですか？NVIDIAはこのリリースを、チームが個別に採用できる4つのコンポーネントに分割しました。KAI SchedulerはKubernetesネイティブなスケジューリングエンジンです。Apache 2.0で、CNCF Sandboxプロジェクトです。ギャングスケジューリング、時間ベースのフェアシェア、トポロジー認識、ビンパッキング、DRAサポートをカバーしています。GPU Fractioning Operatorは、CUDA 13.4ネイティブのGPU分割機能をKubernetesにもたらします。CUDAドライバーは、ワークロードごとに厳密なメモリ制限を適用します。NVIDIAは、このアプローチを優先して、以前の独自の分割機能を廃止しました。