谷歌推出“做判断”专用接口:一次可对同一段材料问最多1000个问题,不必让模型逐字写答案
很多AI应用其实不是要写文章,而是要快速做判断:这条该不该退款、该交给哪个模型、内容是否违规。谷歌11月11日推出Gemini Decisions API和专用模型Gemini Decision 1,宣称可以把文字、图片、音频、视频或PDF一次送进去,同时问最多1000个选择题或打分题,端到端延迟约150到250毫秒,按输入计费、输出不计费。这些速度和费用数字来自谷歌自己的说明。
先说背景:生成文字,和做判断,不是同一件事
现在常见的大模型,回答问题时会一个词一个词往外写。写诗、写代码、写邮件,这样很合适。可很多实际任务并不是写作,而是选择:这张照片里有没有地面的水渍?这通电话该不该转人工?这个请求该交给更快的小模型,还是更贵的推理模型?
如果每次判断都让模型写一段话,既慢又贵,还可能把一个简单的“是/否”写成模棱两可的句子,后面的程序还得再去“猜”它到底是什么意思。
谷歌这次想单独解决的,就是这种有明确选项的判断。
发布了什么
11月11日,谷歌在Gemini API里上线了Gemini Decisions API,背后是新模型Gemini Decision 1。开发者可以把一段共用的输入——文字、图片、音频、视频或PDF,最长约25.6万个token(可粗略理解为模型一次能看进去的材料长度)——和最多1000个彼此独立的问题一起送进去。
问题可以混着出,分成三类:是/否判断;从2到255个选项里选一个;以及按事先定好的等级打分。每个答案都会带一个0到1的“把握程度”,程序可以把没把握的题目交给备用规则或人来看。
和常见聊天模型不同,谷歌称这套系统不是逐词生成答案,而是在一次前向计算里直接给各个选项打分。所谓“前向计算”,可以理解为模型把输入看完、算出结果的一轮过程,中间不再慢慢“写字”。
谷歌给出的性能数字是:端到端延迟约150到250毫秒,其中模型计算大约50到100毫秒;在最多1.6万个token的上下文里,从1个问题加到100个问题,延迟几乎持平。价格为每100万输入token 0.10美元,输出token不计费。公司还称,在自己的一套基准测试上,它的校准误差最低,也就是“自己说有把握”和“真的对了”更接近;在同一套测试上,费用大约是Gemini 3.5 Flash-Lite走普通生成接口的五分之一。这些都是谷歌自己的对比,不是第三方评测。
已经用在哪些地方
谷歌说,公司内部已有团队把它当作低延迟的“控制室”。Gemini Notebook用它来把问题迅速分给合适的模型档位,公司称日常问题的延迟最多可降低约40%,把更深的推理留给更难的任务。设计工具Stitch的新实验用它快速生成可点击的线框,并用语音或点击立刻改稿。实验产品CC用它从200多个表情里选一个反应。谷歌搜索则用它在时间很紧的情况下,检查工具调用是否像在做对抗或违规操作。
这些都是谷歌对内部用法的描述,外部开发者还需要自己验证在实际业务里是否同样快、同样稳。
对普通人可能意味着什么
如果这类“只做判断、不写长文”的接口被广泛用起来,你注意到的未必是一个新聊天机器人,而是一些小事变得更快:客服自动分诊少等一会儿,应用更及时拦住违规内容,或者同一个AI助手在简单问题和复杂问题之间切换得更干脆。
它也有边界。它擅长的是选项事先定好的问题,不负责写分析报告或给出开放式建议。模型说自己“很有把握”,也不等于判断一定正确,关键还得看业务方怎么设置后路。价格和速度数字目前都以谷歌公布的为准。
原文发布时间:Google,2026年11月12日 02:00(北京时间)
分享这篇文章
你觉得这篇文章怎么样?
匿名评价,无需登录,每篇最多 5 次。
匿名评价
写下你的看法,无需登录。
请围绕科技与文章讨论。禁止仇恨歧视、政治战争话题、威胁辱骂、人身指控、色情、广告、链接及个人信息。
还没有评价,来说第一句吧。