Qwen元責任者、AIの考え方転換を提唱

Junyang Linは、AlibabaのQwenプロジェクトのテクニカルリードでした。彼は2026年3月3日に辞任を発表しました。現在、彼は自身の個人サイトで独立研究者として名を連ねています。「Qwen: Towards a Generalist Model / Agent」と題された講演で、彼はQwenファミリーについて説明しました。その講演は「Training models -> training agents.」という一文で締めくくられています。彼は後に、この一文を独立研究者としての詳細な投稿に発展させました。この記事では、その講演と詳細な投稿を合わせて読み解きます。 どのような内容か Linの講演が実際にカバーしている内容 この講演は、単一のリリースではなく、Qwenモデルファミリーの紹介です。QwQ-32B、Qwen2.5-Max、Qwen3、Qwen2.5-VL、そしてQwen2.5-Omniについて説明しています。それぞれの段階で、同時代のモデルとのベンチマークチャートが示されています。挙げられているベースラインには、DeepSeek-R1、Grok 3 Beta、Gemini 2.5 Pro、そしてOpenAIのo-seriesが含まれます。Qwen3に関する説明が最も詳細です。 Linは、ハイブリッド思考モードを強調しています。これは、段階的な推論のための思考モードと、ほぼ瞬時の応答のための非思考モードです。彼は動的な思考予算を追加し、呼び出し元がモデルが推論に費やす時間を制限できるようにしました。Qwen3は多言語サポートを29言語から119言語および方言に拡大しました。このプレゼンテーションでは、0.6Bから235Bパラメータまでの多くのモデルタイプとサイズがリストされています。また、GGUF、GPTQ、AWQ、MLXを含む量子化フォーマットもすべてApache 2.0ライセンスの下でリストされています。 その後、Web DevデモとDeep Researchデモの2つのデモが続きます。最後の「Future work」スライドはエージェントを指しています。そこには、さらなるpretraining、環境フィードバックを伴うRL、より長いcontext、そしてより多くのmodalityが挙げられています。最後の重要な言及は「training models -> training agents.」です。 講演で示されたQwen3のアーキテクチャ 講演には、以下に再現するQwen3のアーキテクチャテーブルが含まれています。 Model Layers Heads (Q/KV) Tie Embedding / Experts (Total/Act.) Context Qwen3-0.6B 28 16 / 8 Tie: Yes 32K Qwen3-1.7B 28 16 / 8 Tie: Yes 32K Qwen3-4B 36 32 / 8 Tie: Yes 32K Qwen3-8B 36 32 / 8 Tie: No 128K Qwen3-14B 40 40 / 8 Tie: No 128K Qwen3-32