Vercelは2026年9月16日に、AI GatewayにおいてTypeSafe AIの「Jev」が利用可能になったと発表しました。Jevはソフトウェア向けの確率的な意思決定モデルであり、AIによる判断の自動化を支援します。
Jevは、入力された状態に対して、型定義された選択肢、スコア、真偽値の回答を直接返すモデルです。従来のLLM(大規模言語モデル)がテキストを生成してからアプリケーション側で解析・検証していたプロセスとは異なり、宣言された質問を並列で評価し、確率とともに回答を返します。これにより、不要なテキスト生成を排除し、明確なケースは自動化し、不確実なケースは確認作業へ回すといった処理が容易になります。
TypeSafe AIの報告によると、ワークフローの評価において、JevはLLMと比較して最大193.6倍高速で、444.6倍安価であるとしています。
具体的な活用例として、エージェントのループにおける次のツールやサブエージェントの選択、処理を継続するか、再試行するか、ユーザーに尋ねるか、停止するかといった判断、アクション前の緊急度やリスクのスコアリング、モデル出力の検証とガードレール(制約)の適用などが挙げられています。
AI SDK 7では、実験的な`evaluate` APIを通じてJevを利用できます。このAPIを使用することで、モデル、評価対象の状態、および決定すべき質問のマップを指定して呼び出すことが可能です。また、リクエストごとにデータの保持を行わない設定や、学習に利用させない設定も適用できます。
