内容の要約

JevはTypeSafe AIのAI構造化決策モデルで、文章を出力せず、事前設定された選択肢の中でChoice(選択)・Score(スコア)・Noul(是非判断)の3種類の型付き決策と較正済みの確信度を返します。遅延は約70–500ミリ秒で同等の大規模言語モデルより20〜200倍速く、1回の呼び出しで複数の質問を並列評価でき、エージェントの高頻度判断シナリオに適しています。

Jevとは

Jev は TypeSafe AI が提供する AI 構造化決策モデルで、創設者は元 OpenAI 研究者の Diogo Almeida です。Jev は Transformer ベースですが、大規模言語モデルではなく、文章を出力せず、事前に設定された選択肢の中で型付きの決策を返します:Choice(選択)、Score(スコア)、Noul(確率)で、確信度が付随します。モデルの応答遅延は約 70–500 ミリ秒で、ツールのルーティング、チケットの振り分け、ゲームの意思決定など、エージェントの高頻度判断シナリオ専用に設計されています。

Jevの主な機能

  • Choice 選択決策:事前設定された選択肢リスト(最大 255 個)から最も適切な 1 つを選び、選択肢・確率分布・確信度を返します。ルーティングや分類に適しています。
  • Score スコアリング:入力をカスタム尺度(1〜5 段階など)で採点し、スコア・確率・確信度を返します。緊急度・品質・リスクレベルの測定に使用します。
  • Noul 是非判断:「この陳述が真かどうか」に対し 0〜1 の確率値を出力します。人へのエスカレーションが必要か、行動を起こすべきかなどの二値判断に適しています。
  • 複数質問の並列処理:1 回の API 呼び出しで複数の質問を同時に組み合わせて投げられ、同じ入力を共有し独立して並列評価されます。質問を追加しても遅延はほぼ増えず、コンテキストの劣化も発生しません。
  • 確信度出力:Choice と Score には較正済みの確信度スコアが付随し、コードはこれに基づいて振り分けができます——確信度が高ければ自動実行、低ければ大規模モデルへエスカレーションまたは人に委ねます。
  • 幻覚のない型付き出力:ユーザーが事前設定した選択肢と型の範囲内に厳密に限定して返すため、JSON 解析は不要で、フォーマットエラーや範囲外のでたらめな回答を排除します。
  • 極低遅延:エンドツーエンドの応答は約 70–500 ミリ秒で、同等の大規模言語モデルより 20〜200 倍速く、毎秒約 10 回の高頻度決策ループをサポートします。

Jev の 3 つの出力形態

  • Choice(選択決策):ユーザーが事前定義した選択肢リスト(最大 255 個)から最も適切な 1 つを選び、選択された選択肢・各選択肢の確率分布・確信度を返します。ルーティング、分類、ツール選択など「複数から一つ選ぶ」シナリオに適しています。
  • Score(尺度スコアリング):ユーザーが定めた採点尺度で入力状態を採点し、スコア・各レベルの確率分布・確信度を返します。緊急度評価、品質格付け、リスク格付けなど「何点か」のシナリオに適しています。
  • Noul(是非判断):ある陳述が真かどうかに対し 0〜1 の間の確率値を出力し、確信度は単独では返しません。「人にエスカレーションすべきか」「行動を起こすべきか」などの二値判断シナリオに適しています。

三者の関係:同じ 1 回の API 呼び出しの中で自由に組み合わせて使え、同じ入力状態を共有し独立して並列評価されます——質問を追加しても遅延はほぼ増えず、コンテキストの劣化も発生しません。

Jevの使い方

  • アカウント登録:Jev 公式サイト https://console.typesafe.ai/ にアクセスし、登録すればそのまま利用できます。
  • API キーの取得:コンソールで API キーを作成してコピーし、以降のインターフェース呼び出しの認証に使用します。
  • 入力状態(State)の準備:現在の局面を構造化されたテキストまたはデータに整理します。ゲームの状態、Web ページの要素一覧、メールの内容などです。Jev が見るのは元の画面ではなく状態の記述です。
  • 質問(Questions)の定義:必要性に応じて 3 つのプリミティブ——Choice(選択決策)、Score(尺度スコアリング)、Noul(是非判断)——を選び、各質問では具体的なことを 1 つだけ尋ねます。
  • リクエストの送信:REST API または公式 SDK でリクエストを送信します。State と複数の質問を同じ呼び出しにまとめると、モデルはすべての質問を並列評価します。
  • 型付き結果の解析:選択肢・スコア・確率・確信度などの強い型付き結果を直接取得でき、JSON プロンプトや追加のパーサーは不要で、コードが直接消費できます。
  • コードで複数質問を組み合わせる:複雑な判断を複数の小さな独立した質問(アトミックな質問)に分解し、コードロジックで各次元の結果を重み付けして組み合わせます。モデルに 1 回の質問の中で全てを天秤にかけさせるわけではありません。
  • 確信度による振り分けの導入:返された確信度に基づいて戦略を設計します。例えば 90% 超で自動実行、60〜90% なら大規模モデルへのエスカレーション、60% 未満なら人に委ねます。
  • 独自データでの較正・検証:自動決策ルールを本番環境に導入する前に、まず業務データでモデルの確率が実際の結果と一致するか検証します。単発の確信度の数値だけを見てはいけません。
  • 生成モデルとの併用:文章の生成が必要なシナリオ(フォームの内容記入など)は別途生成モデルを呼びます。Jev は「どれを選ぶか」の高頻度判断のフェーズに専念します。

Jevの核心的な優位性

  • 究極の速度:エンドツーエンド遅延は 70–500 ミリ秒のみで、同等の大規模言語モデルより 20〜200 倍速く、毎秒約 10 回の高頻度決策ループをサポートします。
  • フォーマット幻覚なし:出力はユーザーが事前設定した選択肢と型の範囲に厳密に限定され、JSON 解析は不要で、でたらめな回答やフォーマットエラーを排除します。
  • 較正済み確信度:較正された確率分布と確信度スコアを返し、コードはこれに基づいて自動実行・モデルへのエスカレーション・人の介入という振り分け判断ができます。
  • 複数質問の並列処理:1 回の呼び出しで複数の独立した質問を同時に評価でき、同じ入力を共有し遅延はほぼ増えず、コンテキストの劣化も発生しません。
  • 決策と生成の分離:「判断」を完全なテキスト生成から切り離し、大規模モデルを些細なタスクに使うことを避け、生成モデルが得意とする文章の生成に専念させます。
  • コードで組み合わせ可能:アトミックな質問設計により業務ロジックがコードに集約され、優先度の変化は prompt の書き直しではなく係数の変更で済み、制御性と保守性がより高まります。
  • 汎用の意味理解:Transformer アーキテクチャに基づき、汎用の意味理解能力を備えており、ルールや候補が頻繁に変わっても従来の分類器のように再訓練は不要です。

Jevの競合比較

比較维度 Jev(System One 決策モデル) Gemini 2.5 Flash(分類判断に汎用 LLM を使用)
モデルの本質 決策専用に訓練された分類モデルで、テキスト生成能力はなし 汎用自己回帰マルチモーダル大規模モデルで、テキスト生成が本業
応答遅延 70–500 ミリ秒で安定して予測可能 数百ミリ秒から数秒。prompt の長さや出力 token の影響を大きく受けます
呼び出しコスト 入力 100 万トークンあたり 0.042 ドル、出力は無料 入出力の双方向課金で、総合コストは 10〜20 倍高い
分類精度 コミュニティの実測では商用メール分類で Gemini よりやや低い 汎用タスクでは精度が高く、意味理解もより網羅的
出力形態 型付き決策+確率分布+較正済み確信度 自由テキストまたは制約付き JSON。較正済み確信度はネイティブになし
幻覚制御 事前設定の選択肢に厳密に限定し、フォーマット幻覚はなし 範囲外出力やフィールドのずれの可能性あり
マルチタスク並列 1 回の呼び出しで複数の独立した質問を並列評価し、追加遅延はゼロ 逐次的な複数回呼び出しか複雑な prompt の組み立てが必要で、コンテキストの劣化が起きやすい
マルチモーダル能力 構造化されたテキスト状態のみを処理 画像・テキスト・音声・動画をネイティブにサポートし、「画像を見て判断」できる

Jevの応用シナリオ

  • エージェントのルーティングとツール呼び出しの制御:現在の意図が検索・データベース・コード実行のどれを呼ぶべきかを高頻度で判断し、事前設定された有効な API リストの中からだけ選びます。幻覚ツール名を排除すると同時に、ミリ秒級の応答でエージェントの高速ループを支えます。
  • カスタマーサポートのチケット振り分け:1 回の呼び出しでチケットの担当チーム・緊急度・情報が揃っているかを並列判断し、毎日百万件規模のメール・チケットをほぼゼロコストで自動トリアージします。
  • ゲームとシミュレーションの意思決定:ゲームエンジンが出力する構造化状態を受け取り、事前設定された行動集合内で毎秒約 10 回の高速な手選択を行い、DOOM、Mario などのゲームの AI プレイヤーを駆動します。
  • ブラウザ自動化:ページ要素に番号を振り、Jev にどのボタンをクリックしどの入力欄に記入するかを一歩ずつ決断させ、文章の生成が必要な場合のみ生成モデルに切り替えます。航空券検索などのタスクは十数ステップの操作で数秒で完了します。
  • コンテキスト圧縮とモデルルーティング:数百万トークン級の長いコンテキストの中で、どの情報が重要でどれを捨てられるかを判断し、タスクの複雑度をリアルタイムで予測して軽量モデルに出すか旗艦モデルに出すかを決め、コストと効果の最適な配分を実現します。

Jevのよくある質問

Q1:Jev とは何ですか?

**A1:**Jev は TypeSafe AI が提供する AI 構造化決策モデルです。Transformer ベースですがテキストは生成せず、事前設定された選択肢の中で Choice(選択)、Score(スコア)、Noul(是非判断)の 3 種類の型付き決策を返し、較正済みの確信度が付随します。エージェントの高頻度判断シナリオ向けに設計されています。

Q2:Jev と大規模言語モデルは何が違いますか?

**A2:**Jev は大規模言語モデルではなく、文章を出力せず、ユーザーが事前設定した選択肢と型の範囲内でのみ構造化決策を返すため、フォーマット幻覚はありません。応答遅延は約 70–500 ミリ秒で、同等の大規模言語モデルより 20〜200 倍速く、ツールのルーティング、チケットの振り分けなど高頻度の判断に適しており、テキストの生成は生成モデルに任せる必要があります。

Q3:Jev の応答速度とコストはどうですか?

**A3:**エンドツーエンドの遅延は約 70–500 ミリ秒で、毎秒約 10 回の決策ループをサポートします。課金は入力 100 万トークンあたり 0.042 ドル、出力は無料で、大量・高頻度の判断型呼び出しに適しています。

Q4:Jev はどのようなシナリオに向いていますか?

**A4:**高頻度・低遅延の「どれを選ぶか」型の判断が必要なシナリオに向いています。例えばエージェントのツールルーティング、カスタマーサポートのチケット振り分け、ゲーム AI の手選択、ブラウザ自動化の操作、そして長いコンテキストにおける情報の選別とモデルルーティングです。

よくある質問

Jevとは何ですか?

JevはTypeSafe AIが提供するAI構造化決策モデルです。Transformerベースですがテキストは生成せず、事前設定された選択肢の中でChoice(選択)、Score(スコア)、Noul(是非判断)の3種類の型付き決策を返し、較正済みの確信度が付随します。エージェントの高頻度判断シナリオ向けに設計されています。

Jevと大規模言語モデルは何が違いますか?

Jevは大規模言語モデルではなく、文章を出力せず、ユーザーが事前設定した選択肢と型の範囲内でのみ構造化決策を返すため、フォーマット幻覚はありません。応答遅延は約70–500ミリ秒で、同等の大規模言語モデルより20〜200倍速く、ツールのルーティング、チケットの振り分けなど高頻度の判断に適しており、テキストの生成は生成モデルに任せる必要があります。

Jevの応答速度とコストはどうですか?

エンドツーエンドの遅延は約70–500ミリ秒で、毎秒約10回の決策ループをサポートします。課金は入力100万トークンあたり0.042ドル、出力は無料で、大量・高頻度の判断型呼び出しに適しています。

Jevはどのようなシナリオに向いていますか?

高頻度・低遅延の「どれを選ぶか」型の判断が必要なシナリオに向いています。例えばエージェントのツールルーティング、カスタマーサポートのチケット振り分け、ゲームAIの手選択、ブラウザ自動化の操作、そして長いコンテキストにおける情報の選別とモデルルーティングです。