Contrastive-LMがCLM-8B発表: AIの行動判断を9倍速く

Contrastive-LMは、Contrastive Language Models (CLMs)と呼ばれる新しいクラスの初のオープンモデルであるCLM-8Bをリリースしました。CLMはテキストを生成しません。現在の状態に対して一連の候補アクションを評価し、確率を返します。彼らの主要な比較対象は、TypeSafe AIのプロプライエタリなSystem OneモデルであるJevです。展開可能か？はい。Apache-2.0のヘッドは75MBです。Linux上で1つのNVIDIA GPUで動作し、vLLMがQwen3-8Bエンコーダーを提供します。System OneモデルがすることJevは2026年9月15日に限定的な早期アクセスを開始しました。テキストの代わりに、確率付きの型付き値を返します。CLMは同じインターフェースをターゲットとしています。CLMのGitHubリポジトリは、TypeSafe互換のAPIを介してCLM-8Bを提供します。これは3つの質問タイプを公開しています: Noul: ステートメントが真である確率を返します。Choice: 宣言されたセットから1つのオプションを確率付きで選択します。Score: 順序付けられた評価基準で期待されるレベルを返します。TypeSafeのAPI用に書かれたリクエストは、CLMのPythonクライアントを通じて再実行できます。CLMの仕組みCLMは、双方向のInfoNCE lossを用いて、状態エンコーダーとアクションエンコーダーを訓練します。各エンコーダーは、凍結されたQwen3-8Bバックボーンと、20Mパラメータの訓練可能なprojection headで構成されています。訓練は、各状態を実際にとられたアクションに引き寄せ、他のアクションから遠ざけます。推論時、CLMは状態とアクションのembeddingの内積によって各候補を評価します。これらのスコアに対するsoftmaxが回答分布となります。同じプリミティブが、ベストオブNのソリューションをランク付けし、ツールをルーティングし、型付きの決定に答えます。この設計は、状態とアクションを分離します。エージェントループでは、状態はステップごとに変化しますが、アクションセットはほとんど固定されたままです。clm-serveは、vLLMのKVキャッシュと同様に、GPUメモリのスラブを予約し、キャッシュされたベクトルを再利用します。3つのアクションを持つ1つのRTX 4090では、再訪された状態は1.7ミリ秒から0.6ミリ秒に短縮されます。モデルカードは、約1,000の候補を持つJevよりもCLMが13倍高速に動作すると報告しています。3段階の訓練レシピ約60MのNemotron DQA質問応答ペアでの事前訓練。M