AIが考える力を学ぶ方法

このチュートリアルでは、SupraLabs reasoning corpusを扱うためのエンドツーエンドのワークフローを構築します。Hugging Face Hubから代表的なサブセットを直接ストリーミングし、そのソース分布、トークン長パターン、タスク構成、推論と回答の比率を調査した後、不適切な学習例を除去するための一連の品質フィルターを適用します。保持されたサンプルを、明示的な<think> reasoning tagsを持つチャットベースのsupervised fine-tuning形式に変換し、TRLのSFTTrainerを通じてLoRAでSmolLM2-135M-Instructを適応させます。スケーラブルなデータアクセス、探索的分析、データセットのキュレーション、parameter-efficient fine-tuning、構造化された推論、およびParquetエクスポートを組み合わせることで、大規模なマルチモデルreasoning corpusをコンパクトなreasoning-focused language modelに変えるための完全なGoogle Colabパイプラインを作成します。