chot Inc.（ちょっと株式会社）

Vercel AI Gateway 経由で Jev（TypeSafe AI）を使う方法と実装時の判断基準

開発

Vercel AI Gateway から Jev を呼ぶ経路は3つあります。AI SDK の experimental_evaluate、Gateway のネイティブ HTTP API（POST /v1/evaluate）、既存の TypeSafe クライアントを向け先だけ変えて使う TypeSafe 互換 API です。モデル ID はいずれも typesafe-ai/jev。逆に OpenAI 互換・Anthropic 互換・Cohere 互換のエンドポイントでは評価リクエストを扱えません。ここを取り違えると最初の実装で必ず詰まります。

Jev は「文章を生成しないモデル」だと理解する

Jev は TypeSafe AI が 2026年9月15日に公開した System One モデルで、共有した state（判断材料）に対して型付きの質問を評価し、選択肢・スコア・真偽の確率を返します。散文は生成しません。Vercel の解説記事でも、文章や説明が必要な場面は生成モデルの担当だと明記されています。

言語モデルの構造化出力との違いは確率の出どころです。言語モデルが返す確率はテキスト生成の結果として作られた見積もりですが、Jev は各質問を同じ state に対して独立に評価し、定義した選択肢全体の分布を返します。質問を足しても他の質問の答えが変わらないのはこのためです。1リクエスト内で複数の質問を並列評価できるので、追加してもレイテンシはほとんど増えません。

3つの経路の選び方

TypeScript で新規に組むなら AI SDK が最短です。ai パッケージの experimental_evaluate に model として文字列 'typesafe-ai/jev' を渡すだけで、Gateway 経由にルーティングされます。AI SDK は 7 以降（experimental_evaluate は 7.0.105 以降）が必要です。

Python や Go など TypeScript 以外の実装、あるいはバッチ処理基盤から叩く場合は HTTP API を選びます。https://ai-gateway.vercel.sh/v1/evaluate に model・state・questions を JSON で POST する形式で、レスポンスには answers に加えてトークン使用量と Gateway のルーティング・コスト情報が入ります。

すでに TypeSafe の SDK を使っているコードベースなら、base URL を https://ai-gateway.vercel.sh/typesafe に、API キーを Gateway のキーに変えるだけで移せます。systemOne 呼び出しや noul 型の質問はそのままです。3経路とも課金と可観測性は Gateway に集約され、ログ・カスタムレポート・予算の対象になります。この「他モデルと同じ請求とログに載る」点が、TypeSafe に直接つなぐ場合との実務上の差です。

ローカル開発の認証でつまずかないために

モデル ID を文字列で渡すと、AI SDK は OIDC トークンで Gateway に認証します。vercel link でプロジェクトを紐づけ、vercel env pull を実行すると VERCEL_OIDC_TOKEN が環境ファイルに書き込まれます。Vercel 上のデプロイは自動で受け取りますが、ローカルのトークンは12時間で失効します。401 が返ったら、まず vercel env pull を再実行してください。403 が続く場合は、そのプロジェクトと AI Gateway へのアクセス権を確認します。カスタムヘッダーや独自の fetch、別の base URL が必要なときだけ @ai-sdk/gateway の gateway.evaluationModel を使えば十分です。

質問は3種類。返り値の読み方を先に決める

質問タイプは boolean・choice・score の3つです。boolean は「その記述が真である確率」を0〜1で返します。choice は名前を付けた選択肢から1つを選び、全選択肢の確率分布を伴います（最大255個）。score は低い順に並べた基準配列に対する評価で、返る score は各段階の確率で重み付けした平均値です（2〜10段階）。

判断ロジックを書く前に、3つの数字の意味を区別しておくと事故が減ります。boolean の probability は「答えの自信」ではなく「その記述が真である確率」です。choice と score については、分布の集中度を示す confidence が result.providerMetadata.typesafe.confidence に質問 ID ごとに入ります（boolean には返りません）。また確率とスコアは小数第2位に丸められるため、分布の合計が 0.99 になることがあります。AI SDK 側で検証時に考慮されるので、自前で正規化し直さないでください。

本番投入前に決めておく設計判断

Vercel の実装ガイドが示す設計指針のうち、判断に直結するものは次の4点です。

  • 質問は原子的に分ける。「このチケットは優先か」ではなく、緊急度の boolean、業務影響の score、顧客区分の choice に分解し、重み付けはコード側で行う
  • 選択肢はラベルではなく説明文で書く。'high' より「回避策がなく業務が止まる」のほうが照合材料が多い
  • しきい値はモデル単位ではなく行為単位で決める。画面表示のような取り消せる操作なら 0.7 程度でも運用できますが、破壊的操作は 0.9 以上＋確認ステップが目安として示されています
  • 分類と認可を分ける。Jev は「顧客が返金を求めている」ことは判定できても、返金してよいかは契約状態や社内規程の話です。承認は必ずコード側の別チェックにする

しきい値の妥当性はテストとは別問題です。分岐ロジック自体は ai/test の Experimental_EvaluationMockModelV4 でネットワークなしに検証できますが、数値が自社データに合っているかは、正解ラベル付きの実データを同じ質問で評価し、予測確率と実際の結果を突き合わせて確かめるしかありません。まず100件程度の過去データで測り、誤りが許容できる範囲に収まるカットオフを決めてから自動化の範囲を広げる、という順序が現実的です。

データ統制については、Zero Data Retention と No Training をリクエスト単位で指定できます（AI SDK なら providerOptions.gateway、HTTP API なら同名の JSON フィールド）。顧客の問い合わせ本文を state に渡す設計なら、最初から有効にしておくほうが後の説明コストが下がります。

料金・制限で確認すべきこと

執筆時点（2026年9月24日）、Jev のモデルページには Free と表示され、プロモーション価格は2026年9月25日で終了すると記載されています。Vercel のナレッジベースは入力トークン100万あたり 0.042 ドル、出力トークンの課金なしという値を挙げています。終了後の価格は実装前にモデルページで必ず確認してください。コンテキスト長もモデルページの表記（32K）とナレッジベースの記載（1リクエスト64,000トークン、state は32,000トークン）が一致していないため、長い state を渡す設計なら公式ページの最新値に合わせるべきです。

無料枠の性質も押さえておく必要があります。AI Gateway の無料枠は毎月付与されるクレジットで、対象モデルはカタログの一部、レート制限はモデルごとに有料枠より低く、超過すると 429 が返ります。そしてクレジットを購入すると有料枠に移り、月次の無料クレジットは適用されなくなります。検証と本番課金を同じチームで混ぜない運用が無難です。バッチ的に大量の質問を投げる用途では、無料枠のレート制限がそのまま処理時間に効きます。並列数を絞り、429 に対する指数バックオフを最初から組み込んでおいてください。

もう一点、Vercel Community には、Gateway 経由だと解決後のモデルバージョンがレスポンスに現れず（modelId はエイリアスのまま）、評価結果をモデルバージョンに紐づけられないという報告があります。回帰を追跡したいチームは、実行日時とリクエスト内容を自前のログに残しておくと後で困りません。

まず何から試すか

最小の検証手順はこうです。(1) ai を導入して vercel link と vercel env pull を実行する、(2) 既存業務で人が数秒で判断している分岐を1つ選び、boolean 1問で state を渡して確率を見る、(3) 過去データで確率と実際の結果を突き合わせ、しきい値と人手レビューに回す条件を決める、(4) 質問を choice / score に広げ、1リクエストにまとめる。ここまで進めば、生成モデルに構造化出力をさせている既存処理を置き換えるべきか、費用と精度の両面で比較できます。

問い合わせの自動振り分けやエージェントのツール承認など、実業務のフローに評価モデルを組み込むところまで来ると、判断はモデル選定よりもしきい値設計と人手レビューの導線の問題になります。Next.js アプリへの組み込みや既存ワークフローの設計を含めて検討したい場合は、お問い合わせからご相談ください。

出典

この記事をシェア

最新の記事

AI最新情報

Harveyの粗利率が半年で50%から▲50%へ──エージェント化がSaaSの原価構造を壊した事例を読む

AI最新情報

URLを入れるだけで顧客獲得？AI営業ツール「Origami」の仕組みと、日本で使う前の確認事項

AI最新情報

Jevとは何か — 文章を生成しないAIモデルがLLMやAIエージェントと違う点

コラム一覧