OpenAI、AIが速く判断する新機能
OpenAI Decisions API Hits Public Beta With 10x Faster Typed Answers
OpenAIが、AIがテキストや画像を分析し、プログラムで扱いやすい形で約10倍速く判断できる新機能を公開。AIによる自動化や意思決定の速度が大きく向上します。
OpenAIはDecisions APIをパブリックベータ版としてリリースしました。これはテキストや画像を、あなたのコードが分岐できる型付きの回答に変換します。OpenAIチームは、OpenAI Decisions APIがResponses APIよりも約10倍速く動作すると述べています。これは一般的なパターンを対象としています:LLMにプロンプトを与え、そのテキストをラベルに解析することです。TL;DR サイズ:GPT-6 Lunaのパラメータ数は公開されていません。そのモデルカードには1,050,000トークンのコンテキストウィンドウが記載されています。動作環境:OpenAIがホストするAPIのみで、POST /v1/decisions を介して利用可能です。オープンウェイトはなく、セルフホスティングもできません。パフォーマンス:OpenAIによると、Responses APIよりも約10倍高速です。利点:100万入力トークンあたり0.10ドルで、出力、キャッシュ読み取り、キャッシュ書き込みの料金はかかりません。結論:利点:確率付きの高速な型付き決定。欠点:モデルは1つ、ベータ版ステータス、独立した評価はまだありません。OpenAI Decisions APIとは何ですか?Decisions APIは、テキスト、画像、またはその両方を評価し、型付きの回答を返すOpenAIのエンドポイントです。散文を生成することはありません。リクエストには3つのフィールドがあります:model、input、およびquestionsです。現在サポートされている唯一のモデルはgpt-6-lunaです。OpenAIは今後数週間での一般提供を予定しています。Decisions APIはどのように機能しますか?各リクエストには共有された証拠と質問のリストが含まれます。各質問には一意のname、type、およびinstructionsがあります。レスポンスは、これらのnameでキー付けされたanswers配列を返します。3つの質問タイプとは何ですか?predicate:条件をチェックし、0から1の確率を返します。例:製品写真にひび割れ、破れ、へこみがありますか?choice:提供されたオプションから1つの値を選択します。また、オプションごとの確率とconfidenceフィールドも返します。score:0からインデックス付けされた順序付きのlevelsに対して入力を評価します。スコアはレベルインデックスの確率加重平均です。OpenAIのseverityの例は、計算を具体的に示しています。レベル確率が0.1、0.7、0.2の場合、スコアは1.1になります。この値は「Workaround available」と「Fully blocked」の間に位置します。代わりにStructured Outputsをいつ使用すべきですか?OpenAIは明確な線を引いています。Decisionsはプロの用途に
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。