10 月中旬,我们写过一篇《决策模型:AI行业冒出的新物种》。那篇文章发出时,OpenAI 的 Decisions API 还在公开测试阶段,我们留了三个观察点:正式版定价与限额、独立基准测试、开源模型的实际部署量。
三周过去,第一个观察点已经有了答案——10 月 22 日,OpenAI 宣布 Decisions API 正式通用可用(GA)。这次转正带来了哪些实质变化?更重要的是,公测到转正的这三周里,"判断力单独标价"这件事在真实开发环境里走到了哪一步?
GA 补齐了什么
先看 OpenAI 官方公告和开发者文档里明确的变化:
- 单次请求 400 个问题,是公测版的两倍。夜间批处理场景从 400 次调用合并成 1 次,这是生产环境最实用的一步;
- 提示词缓存:缓存命中的输入 token 降到 0.01 美元/百万(非缓存 0.10 美元/百万),对"同一套路由指令反复调用"的 Agent 场景是直接的成本下探;
- 原生 JSON 输入:结构化业务数据可以直接进判断流程,不用先序列化成自然语言;
- 图片进问题指令:可以在同一个问题里对比多张图片,例如拿参考图判断商品照的破损;
- GPT-Live 集成:语音 Agent 可以在对话进行中实时做出结构化判断;
- 区域推理与合规选项:美国、欧盟推理驻留,符合条件的客户可启用零数据保留和 HIPAA 合规。
定价维持公测口径:gpt-6-luna 输入 0.10 美元/百万 token,输出不收费——因为返回的是判断值而不是生成的文本。"快最多 10 倍"的说法依旧来自 OpenAI 自述,独立复测仍未出现。
一个值得记录的细节:GA 文档同时明确了不支持的场景——一次请求里的问题不能互相依赖(要"先判断破损、再选维修类别",得发两次请求);需要自定义 JSON schema 的结构化输出或工具调用,还是回 Responses API。决策模型不是要替代通用模型,而是把高频、窄域、延迟敏感的判断工作单独切出来,这条边界在 GA 文档里被画得更清楚了。
中国厂商同日落子
GA 的第二天,蚂蚁数科发布了决策模型 LingDT-Decision-1.0,提供 4B 和 27B 两个参数版本,面向意图识别、工单分类、工具选择和风险判断场景,支持多选与按序决策(DAG)。官方测试口径:在相应场景 token 消耗较通用大模型降低超 90%,部分场景处理时效最高提升约 10 倍。
这组数字的结构和 OpenAI、Jev 的宣传口径高度一致——降的是 token 和延迟,不变的是"判断不生成"的产品形态。国内外厂商用同一套逻辑验证同一个判断:Agent 工作流里最烧钱的不是写代码和写文案,而是每秒都在发生的路由、分类和把关。
三周之后,生态里长出了什么
比厂商公告更能说明问题的,是公测期间开源社区自发长出来的工具。GitHub 上的 awesome-decision-models 清单在三周内收录了大量围绕决策模型构建的实践,翻一遍就能看清"判断层"目前最常见的几个用法:
- 工具调用防火墙:在 Claude Code 等编程 Agent 的钩子里,先用决策模型给 bash/write/edit 等操作打危险性分数,确定性代码再映射成放行/询问/拒绝,处理不了就默认拦截;
- 技能路由:LangChain 中间件按轮次从数百个 skill 文件里排序出本轮真正需要的几个,而不是每轮都把整个目录塞进上下文;
- 语义断言:pytest 插件把"每条自然语言断言"当成一次类型化判断调用,概率达标才算通过——测试用例第一次可以用人话写;
- 模型路由网关:本地代理用一次判断调用同时决定"走哪个模型、思考多深",并记录每次决策的真实成本。
这些工具的共同点是:不需要模型"写"任何东西,只需要它在几百毫秒内可靠地"判"一次。厂商负责定义品类,开发者负责找到品类的用法——生态的这一环在公测期就已经跑通了。
落到架构上,现在该做什么
对多数团队而言,现在未必需要立刻迁移 API。但有三件架构层面的事值得马上做:
第一,盘点控制流里的"伪生成"调用。 检查现有 Agent 或工作流里有多少次大模型调用,实际只是让它在几个固定选项里挑一个——工单分类、意图识别、内容审核、优先级排序。这些调用让前沿大模型输出一段 JSON 再解析,既慢又在为输出 token 付费。
第二,给判断调用单独设预算和延迟指标。 判断和生成的成本结构完全不同:判断高频、单次轻、延迟敏感,适合用独立的模型和独立的监控口径。混在一个统计口径里,永远看不出哪里在漏水。
第三,先用公测期就存在的定价模型做测算。 GA 定价与公测一致,输入 0.10 美元/百万、输出免费、缓存 0.01 美元/百万。拿自己系统里一次真实的分类调用对账:如果它的输出 token 花费远大于输入,那它大概率属于判断层,值得单独拆出来。
三个观察点,进度条过半
回到上篇文章留的问题:定价与限额——已明确,400 问题/请求、缓存分层定价,高基数路由场景的选项上限仍需在自己的业务量下实测;独立基准测试——仍缺席,"10 倍提速"和"90% 降本"都还是第一方口径;开源模型部署量——Cloudflare 和亚马逊的开源权重模型已发布数周,边缘侧和私有化部署的真实采用数据还需要时间显现。
从公测到 GA 只用了三周,从新品类到基础设施却不会这么快。但方向已经清楚:当"判断"被单独标价,AI 系统的成本结构第一次可以按功能拆开算账——生成按生成付钱,判断按判断付钱。对开发者来说,这可能是 2026 年下半年最实用的一条架构线索。
参考来源: