软件教程

不生成任何文字的判断模型 Jev 怎么用:三种问题类型、五类落地场景与官方 Skill 接入实战

它是什么:把「回答问题」换成「给出判断」

Jev 是 TypeSafe AI 在 9 月 15 日发布的第一个模型,官方给它的类别名叫 System One Model,社区更习惯叫决策模型。它的定位很特别:不生成任何文本,只输出结构化的判断和概率。你的调用方式是「把一段状态和一组带类型的问题一起交给它」,它对所有问题并行评估,一次返回全部答案,每个答案都带一个概率。

它只回答三类问题。Choice 是「从你给的选项里挑一个」,返回选中项以及每个选项的概率;Score 是「按有序评分表打分」,返回各档概率和插值出来的分数;Noul 是 Bernoulli 的缩写,问「这句话为真吗」,返回 0 到 1 的概率,在 AI SDK 里叫 boolean。三类问题可以混在同一次请求里,对同一段状态并行评估,互不干扰。定价上,输入按每十亿 Token 计费,输出免费,官方给出的端到端延迟区间是 70 到 500 毫秒。

三条接入路径

第一条是 TypeSafe 官方接口,端点是 POST /v1/systemone。第二条走 OpenRouter,用它 SDK 里的 alpha.decisions.create,模型 id 是 typesafe/jev-1.13。第三条是 Vercel AI Gateway,模型 id 为 typesafe-ai/jev,注意这条路径只支持通过 AI SDK 7 的 experimental_evaluate 调用,OpenAI 兼容端点不支持。

走 AI Gateway 的服务端代码大致是这样:从 ai 包引入 experimental_evaluate 并重命名为 evaluate,用 @ai-sdk/gateway 的 createGateway 建好客户端,然后把 model 设为 gateway.evaluationModel 传入 typesafe-ai/jev,再带上 state 和 questions 两个参数、把 maxRetries 设为 0。返回结果里,result.answers 是各问题的答案,result.usage 是计费信息,result.providerMetadata.typesafe.confidence 是这一问的置信度。三条路径的请求与响应形状基本一致,只有 boolean 和 noul 的叫法不同。

不要让模型在长上下文里连环推理,把复杂决策拆成一组原子问题一次全问,剩下的逻辑交给代码。

关键用法:speculative fan-out 与置信度门控

官方文档里有一个很重要的模式叫 speculative fan-out,也就是「投机式扇出」:把可能用得上的问题一次全部问出去,再由代码决定哪些结果真正有用。举个典型例子,一条「登录不上又要退款」的工单,可以一次并发问五个问题:问题类别用 Choice、故障严重程度用 Score、有没有复现步骤用 Noul、是否要求退款用 Noul、用户情绪用 Choice。五个答案会在一次往返里全部回来,上游耗时与只问一个问题差不多。虽然故障严重程度只在类别为故障时才有意义、退款只在类别为收费时才有意义,但传统做法要串行问好几轮,而 Jev 的设计哲学是全部一起问、代码只取相关的几个。

第二个关键点是置信度门控(confidence-gated routing)。Jev 返回的概率反映的是分布的集中程度,不是流程正确性。当某一问的 confidence 低于你设定的阈值时,正确做法是把这条样本转人工复核,而不是硬用模型结果。官方还特别提醒:如果只是要选最优,直接取概率最高的那个就行,不要到处设阈值。

五类已经跑通的场景与官方 Skill

社区里已经验证的用法主要集中在五类。分类与路由是最大的一类,比如判断这条工单该转给谁、这条评论是不是垃圾、这段对话该交给便宜模型还是强模型。验证与护栏是第二类,在语言模型生成之后立刻过一道 Jev 检查,成本低到可以放在每一次生成后面。第三类是打分排序,用 Score 对内容质量、风险程度做有序评估。第四类是智能体决策,浏览器智能体每一步只需要决定做什么操作、对哪个元素,做成两个 Choice 一次往返,只有需要输入文字时才调语言模型,有项目实测把机票搜索的 CDP 调用从一千多次压到一百次左右。第五类是游戏与实时循环,官方演示里 Jev 每秒做约十次判断来操作 DOOM。

如果打算让 Claude Code 之类的编码智能体替你接入,官方准备了一个 Skill 仓库 typesafe-ai/skills,整个仓库只有一个 SKILL.md。它不写 API 手册,而是做三件事:指向在线文档、教智能体从「应用要展示什么、选择什么、改变什么」倒推需要哪些判断、以及纠正语言模型时代的习惯。需要提醒的是,Jev 是闭源的托管 API,不提供权重,隐私敏感的场景需要自行权衡;上线前也建议先拿几十条有标注的真实样本,验证一下它返回的概率和你的标注是否对得上。