AI Jev: コードで直接判断するAI

このチュートリアルでは、TypeSafe AI初のSystem OneモデルであるJevを扱います。Jevはテキストを一切生成しません。プログラムの状態と型付きの質問のセットを送信すると、コードが直接分岐できる選択肢、スコア、はい/いいえの確率を返します。公式のPython SDKをインストールし、3つの質問プリミティブをすべて一度に使用する最初の呼び出しを行い、状態の形式がモデルが知り得る内容をどのように変えるかを見ていきます。次に、返された確率から公開されている確信度統計を再計算し、10個の質問を1回の呼び出しでバッチ処理することが10回の個別の呼び出しに比べて何をもたらすかを測定し、APIが設計されているパターンを構築します。それは、confidence-gated routing、コード内に保持された重みによるcomposite scoring、typed function calling、そしてモデルが実際に実行できる方法でのカウントです。最後に、本番環境での形式について説明します。Pydanticレスポンスモデル、asyncioでファンアウトされた非同期クライアント、リトライポリシー、型付きエラー、そしてノートブック全体の価格を記録する実行中の台帳です。Copy Code Copied Use a different Browserimport osimport sysimport jsonimport timeimport asyncioimport tracebackimport subprocessfrom getpass import getpassRESULTS = {}LEDGER = {"calls": 0, "input_tokens": 0, "output_tokens": 0}USD_PER_MILLION_INPUT_TOKENS = 0.042 # Jev list price; output tokens are free def banner(title): print("\n" + "=" * 78) print(title) print("=" * 78) def section(name): def wrap(fn): def run(*a, **kw): banner(name) try: out = fn(*a, **kw) RESULTS[name] = out if isinstance(out, str) else "ok" return out except Exception as e: RESULTS[name] = f"SKIPPED / FAILED -> {type(e).__name__}: {e}" print(f"\n[!] {name} did not complete: {type(e).__name__}: {e}") traceback.print_exc(limit=3) return None return run return wrap banner("0. Install the SDK, load the API key, list the models") subprocess.run([sys.executable, "-m", "pip", "install", "-q", "typesafe-sdk==0.7.0"], check=True) import typesafe_sdkfrom typesafe_sdk import Choice, Noul, Score, TypeSa