AI前沿

谷歌发了个不写字的模型,只负责给选项打分

一、一个不写字的新模型

11 月 11 日,谷歌在 Gemini API 与 AI Studio 里上线 Gemini Decisions API,底层是全新的 Gemini Decision 1(gemini-decision-1)。它不做逐 token 解码:你给一份输入、最多 1000 道封闭式问题,它一次前向把候选答案逐个打分,直接返回概率。官方给的端到端延迟是 150 到 250 毫秒,16K 上下文以内模型本身的计算中位在 50 到 100 毫秒,而且从 1 道题到 100 道题几乎不变。

输入是一份共享的多模态材料,文本、图像、音频、视频、PDF 可以混着放,上限 256K token。题型三种:noul 判断条件成立的概率;choice 从 2 到 255 个选项里挑一个,并给出全部候选的归一化概率;score 按有序评分标准打出连续加权分。每个答案都带 0 到 1 的置信度,方便代码把没把握的案子转给人工。

二、账单只有输入

价格是每百万输入 token 0.10 美元,输出 token 记 0,所以没有输出费用。一份共享输入每次请求只计一次,题目越多边际成本越低——每道题只增加自己那段指令与评分标准的 token。谷歌说在自家那套共享基准上,这套组合比用 Interactions API 跑 Gemini 3.5 Flash-Lite 便宜近五倍。按 2000 token 输入加 20 道各 50 token 的题算,一次请求约 3000 输入 token,成本约 0.0003 美元。

限制也要一并看清:不支持上下文缓存,不支持 Batch,Google Cloud 上写的是即将推出,免费档只能在 AI Studio 里做原型。Vercel AI Gateway 已经可用,OpenRouter、LangChain、LiteLLM、Pydantic AI、Pipecat、LiveKit、OpenCode 属于陆续接入。

三、谷歌已经把这些活交给它

Gemini Notebook 拿它当实时路由,毫秒级判断意图,把日常查询延迟压低最多四成,只有重活才交给深度推理模型。Stitch 的 rapid canvas 用它几秒钟生出一套可点的线框,语音或点击改图几乎即时。Google Labs 的 CC 从两百多个 emoji 里挑一个最合适的。搜索则用它识别 MCP 工具调用里的对抗性行为,并且必须在延迟预算内做完。

第三方测评里,Artificial Analysis 的 Decision Index v2.1 给 66 分,与 GPT-6 Luna 的 Max 档并列,高于 d1-ultra 的 64 和 GLiDE v1.2 的 61。这个分数只说明它在这一类任务里进了第一梯队,不说明它替代得了生成模型。

智能体真正动手之前,往往要连着做几十个小判断。这些小判断以前都在按大模型的价钱付账。

最该警惕的是校准。置信度是模型自己报的,不等于正确率;把阈值设到 0.9 之前,最好先在自己的数据上画一条可靠性曲线。而真正可抄的思路只有一句:凡是要的是选哪个、而不是写出什么,就不该让模型从头解码一遍。