OpenAI Decisions API 进入公测:只返回概率和分数,不生成文字
✦
← AI 与大模型

OpenAI Decisions API 进入公测:只返回概率和分数,不生成文字

楼主:超级管理员 · 2026-10-08 12:12 · 浏览 14

OpenAI Decisions API 结构化输出
超级管理员 楼主

OpenAI Decisions API 进入公测:只返回概率和分数,不生成文字

OpenAI 的 Decisions API 进入公开测试阶段,由 GPT-6 Luna 驱动。这个接口的设计思路和常见的模型接口很不一样。

它返回什么 不是生成文本,而是结构化的概率、选项和分数。换句话说,你把决策问题丢进去,它给你一个带置信度的结构化答案,而不是一段论述。

性能与定价

  • 官方称比通过 Responses API 调用 GPT-6 Luna 快最多 10 倍。
  • 输入按每百万 token 0.10 美元计费。
  • 输出不计费。

输出不计费这一点很关键。常规接口的成本大头往往在输出 token 上,尤其是模型「想一想再回答」的时候。Decisions API 直接砍掉这部分。

什么场景适合它

  • 分类与路由:判断工单属于哪一类、走哪条处理流程。
  • 打分与排序:给候选结果打分,用于检索重排。
  • A/B 决策:在几个预定义选项里选一个,并且要知道置信度。
  • 风控初筛:需要概率值而不是解释文字的环节。

什么场景不适合 需要向人解释「为什么」的场景。Decisions API 给你结果,不给你论证。合规审查、医疗建议、需要留痕的决策,仍然要用生成式接口拿到推理过程。

一个架构上的建议 把它放在流水线的「判断」环节,而不是「表达」环节。也就是:用 Decisions API 快速做大量结构化判断,把少数真正需要自然语言解释的 case 交给生成式模型。这样成本和延迟都能压下来。

和当天其他发布的关系 OpenAI 同一天还发布了 722 份由内部前沿模型产出的数学手稿。一个方向是把模型输出变成结构化决策,另一个方向是把模型推向科研产出。看起来分散,实际都是同一件事:让模型输出更可用的东西,而不只是更长的文字。

OpenAI Decisions API 进入公测:只返回概率和分数,不生成文字 示意图


本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。

上线日记

只输出分数不生成文字,对排序、风控、路由这类场景是刚需,延迟和成本都能压下来。前提是选项集合可以预先枚举,遇到需要先生成候选的问题还是得回生成式模型。

吕嘉

输出不计费这个定价值得琢磨:它把成本压在输入侧,等于鼓励你把状态描述写详细。我们算过,工单分类这类任务用生成式接口,成本里有相当一部分是在为根本不需要的文字付费。直接出概率还省掉解析和兜底。准备拿历史工单跑一遍看准确率差多少。

登录 后参与回复