Liquid AIがPC向けAIモデル発表
Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents
Liquid AIがPCで動くAIモデル「LFM2.5-24B-A2B」を発表。効率設計で、PC上で高速・安価に複雑な作業をこなすAIエージェントを実現します。
Liquid AIは、ノートPCやPCで動作するエージェント向けのオープンウェイト推論モデル、LFM2.5-24B-A2Bをリリースしました。LFM2.5-24B-A2Bは、240億パラメータのMixture-of-Experts(MoE)モデルで、トークンごとに約20億のパラメータをアクティブ化します。これはLFM2.5ファミリーの中で最大かつ最後のモデルです。Liquid AIはこれを一般的なエージェントハーネス内でトレーニングしたため、オープンチャットではなく多段階のツール利用を目的としています。ベースウェイトと後処理済みウェイトはHugging Faceで利用可能です。 TL;DR サイズ:合計240億、アクティブ20億(モデルカードによると正確には2.45B)、131,072トークンのコンテキスト。動作環境:GGUF/MLXを介してノートPCおよびミニPC(Apple M5 Max、AMD Ryzen AI Max+ 395);サービス提供には単一のNVIDIA B300。FP8、GGUF、ONNX、MLX 4/5/6/8ビットビルド。パフォーマンス:Liquid AIのテストでは、8つのエージェントおよびツール利用ベンチマークのうち5つで、より大きなMoEをリードまたは匹敵します。最高:AutomationBench 27.69、Qwen3.6-35B-A3B(8.72)の3倍以上。最低:SWE-Bench Verified (OpenCode) 51.00、Qwen3.6-35B-A3Bの66.20と比較。結論(最高):高速で安価なローカルツール呼び出しと指示追従。結論(最低):知識とコーディングに弱く、検索と組み合わせる必要があります。 LFM2.5-24B-A2Bとは?これは、ローカルエージェントループ用に構築されたテキストのみ、推論のみのMoEモデルです。ドキュメントによると、アシスタントの各ターンは<think>ブロックで始まります。その前身であるLFM2-24B-A2Bは、常に最初に推論するわけではありませんでした。英語、アラビア語、中国語、ヒンディー語、日本語を含む16言語をサポートしています。 アーキテクチャはどのように機能しますか?LFM2の40層ハイブリッドを維持しています:30の二重ゲート型ショート畳み込みブロックと10のGrouped Query Attention(GQA)ブロック。モデルカードによると、各MoEブロックはトップ4ルーティングを備えた64のエキスパートを保持しています。LFM2-24B-A2Bからの変更点は2つだけです。コンテキストは32,768トークンから131,072トークンに増加しました。非ラテン語のトークン化を改善するために、インプレースのトークナイザー拡張により語彙が65Kから128Kに倍増しました。 どのようにトレーニングされましたか?事前トレーニングは17Tトークンから33Tトークンにスケールアップされました。中間トレーニングは32Kコンテキストで2Tトークン、その後131Kコンテキストで300Bトークン実行されました。ツール呼び出し
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。