OpenAI 在 10 月 22 日把决策 API(Decisions API)向所有开发者开放。这个接口不生成文字,只做选择:给定一组预设答案,返回概率或置信度。它重要不是因为又多了一个 API,而是因为大模型第一次把“判断”和“生成”拆成了两笔账。过去智能体每做一个小决定都要跑一次完整推理,现在这部分成本可以被单独切出来,压到接近于零。

一个只回答选择题的接口

决策 API 跑在 GPT-6 Luna 上,计费方式很直接:输入每百万 token 收 0.10 美元,输出完全免费,缓存命中时输入只要 0.01 美元。它的响应速度比通过常规 Responses API 调用同一个 Luna 模型快最多 10 倍,OpenAI 产品负责人给出的数字是从 1 到 3 秒压到 100 到 180 毫秒。

这不是把模型变小,而是把任务收窄。Luna 本身是一个通用模型,但决策 API 只让它回答“是或否”“选 A 还是 B”“打几分”这类有边界的问题,不生成任何叙述文本。对智能体来说,路由工单、判断风险、决定下一步调用哪个工具,恰恰是最高频的那一层操作。

问题在于,这个“收窄”到底省掉了什么,又让谁失去了位置?

为什么现在把决策单独拆出来

直接原因是智能体工作流的成本结构变了。一个 Agent 一天可能要做出几十万次微决策,如果每一次都调用大模型做完整生成,推理账单会迅速失控。决策 API 的输入定价 0.10 美元,只有 Luna 通用调用输入价格的水平,但输出不再计费,意味着决策层的成本从“按生成量计费”变成了“按阅读量计费”。

更深一层的变化来自竞争。9 月中旬 TypeSafe 发布专用决策模型 Jev 之后,市场迅速把它定价为一个独立品类,Jev 的潜在估值一度被推到超过 100 亿美元。OpenAI 在 15 天内拿出决策 API,Cloudflare 和 AWS 也在同一周跟进决策模型,说明决策层不再被视为大模型的一个功能,而被当成了基础设施里的一个独立层级。

但这里有一个容易被忽略的反常识判断:决策 API 最直接的对手,可能不是 Jev,而是开发者自己写的那行 if-else。 当决策成本降到足够低、延迟缩到毫秒级,原来靠规则硬编码的大量判断逻辑,才第一次有了被模型替代的经济理由。

谁的成本被重新定价了

最先感受到冲击的是 Jev 这类专用决策模型。Jev 的每百万输入 token 价格是 0.042 美元,比决策 API 的 0.10 美元更低,但 OpenAI 的优势不在单价,而在供给关系:开发者已经在一个平台上跑 Luna,再加一个决策端点,不需要引入新的供应商、新的密钥和新的校准流程。

真实用例已经在出现。语言学习应用 Speak 接入决策 API 后,操作之间的间隔从 1.4 秒降到 0.13 秒。在客服路由和内容审核这类场景里,决策层每百万次调用的成本可以被压到个位数美元的量级,而过去走通用模型往往要高出数十倍。这不是一个“更便宜的模型”在抢市场,而是一层新的计费单位在重新定义智能体架构的预算分配。

不过,决策层独立也带来了新的麻烦。不同模型给出的 0.8 置信度并不等价,切换供应商就要重新校准阈值,决策方案本身也需要版本管理和责任归属。成本省下来了,治理开销上去了,这笔账并没有消失,只是换了地方。

决策层会不会变成下一个“标配”

一个可以追踪的趋势是:决策正在从“模型能力”变成“接口原语”。OpenAI 已经把决策 API 用进了自家产品和业务工作流,Cloudflare 把轻量决策模型推到 Workers 边缘节点,AWS 用 20 亿参数的 Decider 模型充当 Agent 的内部控制流组件。路径不同,方向一致:把高频、低复杂度的判断从大模型里剥离出来,让更大的模型专注处理少数真正需要推理的环节。

对中国市场来说,这条线的影响不会以“决策 API”的名字出现,但逻辑会渗透进去。MiniMax 在 10 月把 M3.1 Flash 的 Agent 综合成本压到上一代的 30%,国产模型在通用 Agent 成本上的竞争,本质上也在往同一个方向走:谁先把微决策的单价降到可以忽略,谁就能让智能体真正跑进生产环境。

决策 API 不会取代大模型。它做的是另一件事:把智能体每天要做的几十万个小决定,从“推理”的账本上挪走。挪走之后,大模型负责想,决策层负责选,成本结构才第一次和智能体的真实工作方式对齐。

你怎么看这次变化对你所在环节的影响?你手里的智能体工作流,有多少判断其实可以交给一个毫秒级的“选择题接口”,又有多少必须留给完整推理?

Loading

作者 l1rs

发表回复