Pokee AI、企業内で動くAIを開発

長期的な作業を行うAIは、タスクを解決するよりも速く情報を蓄積します。あらゆるツールの出力、観察、中間的な推論ステップがウィンドウ内に保持され、その情報を保持し、一貫性を保つという2つの重要な機能は、これまでほとんどクラウドサービスでしか利用できませんでした。これは、規制産業、公共機関、およびデバイス内アプリケーションなど、データが境界を一切越えることを許されない分野を除外します。Pokee AIは、その境界内で動作するように設計された、10M-tokenのコンテキストウィンドウを持つ28Bのテキスト専用基盤モデル、Pokee-Isaac 28Bをリリースしました。Pokeeの研究チームは、10M-tokenでRULERにおいて93.3%の性能を主張しており、agenticベンチマークでは最も強力なコスト最適化されたクラウドベースラインと同等であり、単一のGPUに収まるサービスプロファイルを持っています。展開可能か？ はい、ただしopen-weightではなくライセンス供与されます。Pokee AIは、OpenAI互換のdeveloper APIを通じてIsaacを提供し、VPC内、on-premises、またはon-deviceでの展開用にライセンス供与します。発表では、vLLMとSGLangのDay-0サポート、およびRTX 4090または同等品からの単一GPUでのサービス提供が宣伝されています。研究チームはB200クラスの単一GPUからの測定値のみを公開しているため、消費者向けGPUの主張は報告された結果ではなく、ベンダーのガイダンスとして扱うべきです。企業レベル：これは、すでにinference stackを所有している組織、つまりプラットフォームグループを持つ中規模およびエンタープライズチーム、およびdevice OEMに適しています。on-premiseハードウェアを持たない個人開発者は、代わりにhosted APIを使用すべきです。境界の議論は、境界がある場合にのみ意味があります。産業：Healthcare and payors、Financial services and insurance、Defense and public sector、Legal and e-discovery、およびPharma or semiconductor R&D。共通の特徴は、プライバシーの好みではなく、データが外部API境界を越えることができないという規則です。アプリケーション：Whole-repository code review、Multi-year contract and claims analysis、Incident forensics over full log archives、およびLong-running tool agents that