Google Gemini Decisions API：单次评分的速度与边界

变化：把有限选项判断变成独立接口

Google 于 2026 年 11 月 11 日发布 Gemini Decisions API，由 Gemini Decision 1（gemini-decision-1）驱动。它把工具选择、内容检查和模型路由这类“选哪个”的任务做成专用接口：同一份文本、图像、音频、视频或 PDF 可供多个问题共同评估。对开发者而言，变化是能直接消费结构化概率结果，减少为获得一个标签而生成、解析自然语言的步骤。Google AI

按公告描述，模型在一次前向计算中给候选项评分，不逐 token 解码答案；接口支持最多 256K token 输入和 1,000 个独立问题。作者推论是，共享输入有机会摊薄重复处理的开销，尤其适合已经能列出候选项的工作流。但前向计算仍有成本，官方也未披露内部评分结构与训练方法。这里的“独立”意味着问题面向共同输入，不能据此假定后一个问题会读取前一个答案。

延迟与成本：先看宣传数字的条件

Google 报告的模型计算中位延迟为 50–100 毫秒，端到端延迟为 150–250 毫秒；相关性能段落覆盖最多 16K token 的上下文，并称每次请求从 1 个增至 100 个问题时延迟近乎不变。这些条件不能外推到 256K token、1,000 个问题，也没有交代负载、地区、媒体时长或尾部延迟。输入上限和性能测量范围应分别理解。Google AI

公告报价为每百万输入 token 0.10 美元，输出 token 不计费；共享输入每个请求计费一次，每个问题仍增加自己的指令与判据 token。图片和视频分辨率可调，因此细节与 token 成本之间存在取舍。Google 宣称与经 Interactions API 调用的 Gemini 3.5 Flash-Lite 相比“便宜近 5 倍”，但比较限于其共享基准套件。作者判断，业务成本还应加上重试、回退和人工复核，不能把无输出费用理解为零决策成本。

概率：置信度为什么需要本地校准

三类问题有不同语义：noul 估计是非条件成立的概率；choice 在 2–255 个候选项中返回胜出项与归一化概率；score 针对从 0 开始的有序量规返回连续加权得分及各档概率。公告还称每个答案附带 0–1 的置信度，但没有在正文中充分解释各类型置信度的计算方式。需要区分答案概率、置信度和量规得分：加权分数本身不等于判断正确的概率。

Google 宣称其校准误差在所列基准中最低，但给定材料没有提供可复核的逐项结果、样本构成或计算口径。校准关心的是一组相近预测概率与实际发生率是否一致，不能保证某个具体答案正确。作者推论是，候选集缺少正确选项时，归一化也可能给错误选项较高概率；应为“不适用”或“证据不足”设计出口，并在业务数据上检验其有效性。候选集改变后，旧阈值也应重新验证。Google AI

场景：多模态证据与代理执行的边界

以公告提到的理赔 PDF 与损伤照片组合为例，可以假设系统同时检查材料是否齐全、是否需要补拍、描述与图片是否存在冲突。原生多模态输入减少了调用方先把所有证据改写成文字的需要，却不保证小字、细微损伤或跨页关系都被识别。降低分辨率可能省 token，也可能损失决定性证据。如果后续问题必须依据前一步结果才能确定，就需要拆成多个阶段，单次调用的延迟优势也要重新计算。

公告列举 Gemini Notebook 的模型路由和 Google Search 的 MCP 工具安全检查，但这些内部案例并不证明任意业务都能复现相同收益。对云端代理工作流，作者建议让概率结果参与路由，并由确定性授权规则约束工具执行；安全检查模型不能独自授予权限。低置信度可进入回退，高置信度也须接受对抗样本检验。这里的理赔流程与权限设计是应用建议，并非已验证的部署效果，也不代表 Token4AI 已接入该接口。

验证：从概率输出到可用策略

验证应先固定标签、候选项与量规，准备包含缺失选项、模糊图像、难辨音频及指令注入的业务样本，并把阈值调试集与最终留出测试集分开。除准确率外，可查看可靠性曲线和 Brier 分数，按类别与模态检查误差；量规任务还要检查跨档偏差。阈值应由误放行、误拒绝和复核成本决定，同时记录自动处理覆盖率与被自动接受样本的错误率。这些是建议的验证方法，本文未运行相关测试。

性能测试则应在相同输入、任务和验收标准下比较生成式方案，分别改变上下文长度、问题数、媒体分辨率与并发，并记录端到端中位数、尾部延迟、失败率和包含回退的总费用。待验证的假设是：候选项完备、输入复用率高、回退较少时，单次评分能降低整条流程的开销；长媒体、复杂判据或频繁复核可能抵消收益。评测需要回答的，是整条工作流在实际运行条件下是否改善。