自分のAIを動かす道具箱2026年版

エージェントとは、モデルとharness（仕組み）のことです。harnessはツールを実行し、状態を保持し、権限を管理し、モデルにコンテキスト（状況）をフィードバックします。ローカルモデルの場合、harnessはより重要になります。コンテキストウィンドウが小さく、ツール呼び出しが弱いと、あらゆる設計上の欠陥が露呈します。このガイドでは、ローカル推論の文書化がどれだけ優れているかによって、11のオープンソースharnessをランク付けしています。すべてのリポジトリ情報は2026年9月18日にGitHubから読み取られました。ランキングは4つの要素を重視しています。OSI承認ライセンス、文書化されたローカルランタイム、メンテナンス状況、および安全管理です。<br>すべてのharnessに適用される3つのルール<br>1. まずコンテキストウィンドウを増やす: Ollamaのcontext length docsによると、デフォルトはVRAMに依存します。24 GiB未満では4k、24から48 GiBでは32k、48 GiB以上では256kです。同じページには、エージェントとcoding toolsには少なくとも64,000トークンが必要であると記載されています。修正は1行です: OLLAMA_CONTEXT_LENGTH=64000 ollama serve。<br>2. ツール呼び出しをサポートするモデルを選ぶ: Gooseのprovider docsによると、ツール呼び出しをサポートしないモデルはchat completionしかできません。llama.cppの場合、Piのdocsは--jinjaフラグが互換性のあるchat templatesとtool callingを有効にすると述べています。<br>3. メモリを正直に予算化する: Clineのlocal guideは、16から32GBのRAMを小さなquantized modelsに、32から64GBを中規模のcoding modelsに、64GB以上をより大きなmodelsに割り当てています。OllamaのHermesページには、gemma4が約16 GB VRAM、qwen3.6が約24 GB VRAMと記載されています。window.addEventListener("message",function(e){if(e.data&&e.data.mtpHarnessSlider){var f=document.getElementById("mtp-harness-slider-frame");if(f){f.style.height=e.data.mtpHarnessSlider+"px";}}});<br>1. OpenCode<br>OpenCodeは、独自のprovider docsで3つのローカルパスを文書化しています。Ollama、LM Studio、およびllama.cppのllama-serverです。それぞれが@ai-sdk/openai-compatibleパッケージをローカルのbaseURLと共に使用しています。このdocsは、全体で75以上のプロバイダーをサポートすると主張しています。セットアップは1つのコマンドで可能です。OllamaのOpenCodeページには、ollama launch opencodeと表示されています。少なくとも64kトークンのコンテキストウィンドウを推奨しています。OpenCodeの独自のdocsは、実践的な情報を追加しています。