AIを1台のPCで賢くする手順

このチュートリアルでは、Google ColabでエンドツーエンドのNVIDIA NeMo AutoModelワークフローを構築し、単一のGPUを使用して、分散型マルチGPU環境にスケールするのと同じ設定駆動型トレーニングアーキテクチャを探求します。利用可能なCUDAハードウェアと精度サポートを確認し、NeMo AutoModelをそのソースリポジトリから直接インストールし、公式のQwen3-0.6B LoRA fine-tuningレシピをロードし、制約のあるColabランタイム向けにその精度、batch-size、checkpointing、およびスケジューラ設定をプログラムで適応させます。その後、automodelコマンドラインインターフェースを介してparameter-efficient fine-tuningを起動し、生成されたLoRA checkpointを見つけてリロードし、元のモデルとfine-tunedモデルの出力を比較します。最後に、Python APIを介してNeMoAutoModelForCausalLMを使用し、NeMo AutoModelがNVIDIAに最適化された実行パスを統合しながら、おなじみのHugging Faceモデルインターフェースを維持する方法を示します。 別のブラウザを使用 import os, sys, glob, json, subprocess, shutil, textwrap REPO_DIR = "/content/Automodel" WORK_DIR = "/content/automodel_demo" CKPT_DIR = os.path.join(WORK_DIR, "checkpoints") os.makedirs(WORK_DIR, exist_ok=True) def sh(cmd, check=True): print(f"\n$ {cmd}\n" + "-" * 78) p = subprocess.Popen(cmd, shell=True, stdout=subprocess.PIPE, stderr=subprocess.STDOUT, text=True, bufsize=1) for line in p.stdout: print(line, end="") p.wait() if check and p.returncode != 0: raise RuntimeError(f"Command failed ({p.returncode}): {cmd}") return p.returncode ファイル処理、プロセス実行、パス管理、およびフォーマットされた出力に必要なコアPythonライブラリをインポートします。ワークフロー全体で使用されるリポジトリ、作業、およびチェックポイントディレクトリを定義します。また、コマンド出力をストリームし、実行が失敗した場合にエラーを発生させる再利用可能なシェルコマンド関数も作成します。 GPUの検証とNeMo AutoModelのインストール 別のブラウザを使用 print("=" * 78) pri