スマホで動く小型AIが登場

Liquid AIは、完全にデバイス上で動作するagenticモデルであるLFM2.5-2.6Bをリリースしました。これは、スマートフォン、ラップトップ、PC、ロボット上で計画を立て、ツールを呼び出し、複数ステップのタスクを実行します。このモデルは合計2.69Bのパラメータを持ち、131,072-tokenのcontext windowと128,000-tokenのvocabularyを備えています。事前学習には約34兆トークンが使用されました。2つのチェックポイントが出荷されました。fine-tuning用のLFM2.5-2.6B-Baseと、agenticワークロード用に後学習されたLFM2.5-2.6Bです。推論がローカルで行われるため、データがデバイスから離れることはなく、各実行の限界費用はほぼゼロです。Liquid AIは、その約4倍のサイズのモデルに匹敵するツール使用と指示追従のスコアを報告しています。展開可能か？答えは「はい」です。両方のチェックポイントは、lfm1.0ライセンスの下でHugging Faceで公開されています。ウェイトはnative、GGUF、MLX、ONNX形式で出荷され、llama.cpp、vLLM、SGLang、LM Studioで初日からサポートされます。どの企業向けか：個人開発者やスタートアップは、既存のハードウェアで試用できます。このモデルは、M5 Max上で2.5GB未満のメモリで220 tokens/sでデコードします。中規模市場のチームは、1つのGPUで自己ホストできます。1台のNVIDIA H100 SXM5は、1日あたり約1.3Bトークンを処理できます。企業やOEMは、GGUFとONNXを通じて同じウェイトをデバイスフリートにプッシュできます。fine-tuningはTRLとUnslothを使用したLoRA経由で利用可能です。どの業界向けか：Liquid AIは、automotive、consumer electronics、industrial robotics、healthcare、financial services、e-commerce、defenseをターゲットにしています。プロンプトがサードパーティAPIに到達しないため、規制された環境やエアギャップされた設定が最も恩恵を受けます。アプリケーション：Liquid AIは、agenticワークロード、ツール使用、データ抽出、RAG、および長文コンテキストワークフローを推奨しています。実用的な構築例には、オンデバイスアシスタント、128K入力にわたるオフラインドキュメントトリアージ、フォームおよび請求書抽出、ロボットコマンド解析、そしてトークンごとのコストなしで継続的に実行されるバックグラウンドエージェントが含まれます。Liquid AIは、agenticコーディングや知識集約型タスクにはこのモデルを明示的に推奨していません。Architecture and training budget LFM2.5-2.6B h