Jev by Typesafe
ストックにはログインが必要です
チャットではなく、型付き意思決定のためのSystem Oneモデル
Artificial Intelligence
Developer Tools
API
概要
- Jevは、自由形式の入力から、アプリケーションが直接扱える型付きの確率的な意思決定結果を生成するAIモデルです。
- 文章生成を目的とせず、選択肢・スコア・Noul形式の回答と、それぞれの確率を返します。
主な特徴
- 並列サンプリングによって約70〜500ミリ秒の応答を実現し、従来のLLMを使った処理より大幅に高速です。
- 比較対象となるLLMワークフローに対して、約20〜200倍高速、約40〜400分の1のコストを目指し、出力トークンも無料です。
こんな用途に適しています
- 自然言語の入力を、コードで処理しやすい選択・判定・スコアリング結果へ変換したいアプリケーションに向いています。
- 確率の校正された予測を活用して、分類、ルーティング、評価などの意思決定を高速かつ低コストで自動化したい場合に適しています。
投票数: 10