AI利用料を平均40%削減する仕組み

Routerは、すべてのリクエストを性能要件を満たす最も低コストのモデルにマッチングさせることで、inference costsを削減します。リアルタイムの遅延や失敗率に対応します。Routerは平均してAIコストを40%削減できます。エンジニアリング部門はすべてのワークロードに最適なモデルを利用でき、財務部門はinference spendを削減できます。