webAI、手元で動く論理AI発表

webAIは、1.7Bおよび3Bパラメータの形式論理推論器である2つのモデルファミリー「TwIL-LM」をリリースしました。3B版のTwIL-LM3は、SmolLM3-3Bの統合されたfine-tuneです。1.7B版は、SmolLM2-1.7B-Instruct用のPEFT LoRAアダプターです。どちらのモデルも、英語をfirst-order logicに翻訳し、結論が前提から導き出されるかどうかをチェックするautoformalizationを目的としています。どちらもローカルで動作し、1.7B版は1.06 GBの量子化ビルド、3B版は1.78 GiBのQ4_K_M GGUFで提供されます。webAIの発表では、このリリースが5つの形式論理推論分野のうち4つでgpt-oss-120bを上回ったことを強調しています。展開可能でしょうか？部分的です。現時点では非商用利用のみです。両方のチェックポイントはwebAI Non-Commercial License ver. 1.0の下で提供されます。収益を伴う展開には、webAIとの別途契約が必要です。企業規模は問いません。3B Q4_K_M GGUFは1.78 GiBで、CPUまたは4 GBのVRAMで動作します。1.7B Q4_K_Mは1.06 GBです。対象産業は、コンプライアンスおよびRegTech、金融サービス、ヘルスケアおよび製薬、法務および契約業務、形式手法研究です。webAIは、データがデバイスから離れることができない環境でのローカル実行を位置づけています。アプリケーションには、first-order logic (FOL)翻訳、前提セットに対するentailment classification、自然言語から構造化クエリへの変換、Lean formalizationのドラフト作成と批評、およびより大きなモデルの出力をチェックする検証レイヤーが含まれます。TwIL-LM3はどのように構築されたのでしょうか？ベースモデルの上に4つのステージがあります。合成形式論理コーパスに対するLoRA supervised fine-tuning。パラメータ空間における中間SFTチェックポイントを平均化するCheckpoint fusion。λ = 0.25で事前学習済みベースに戻るWiSE-FT interpolation。そして、プログラムによる検証器に対して実行されるエントロピー加重GRPOステージであるMGPOです。公開されたチェックポイントはステップ2071です。このλは重要で、fine-tuneされたデルタの4分の1のみが保持されています。interpolationをスキップした姉妹ブランチは、マクロゲート0.515でドメイン内スコアが高かったものの、保持された能力で約12ポイントを失いました。webAI di