OpenAI推出Decisions API,150毫秒完成实时分类与路由决策

Decisions API 为“快速单次决策”设计,把模型(当前基于 OpenAI 的小型模型 Luna)的“智能”聚焦到一组用户预定义的问题 + 有限答案集合上,用极低的延迟返回结构化决策结果。

在9月30日举行的2026开发者日活动上,OpenAI宣布推出Decisions API,这是一款面向实时、低延迟分类与路由场景的全新接口,可在约150毫秒内返回结果。OpenAI表示,该响应速度比通过常规API调用其小型模型Luna快大约10倍。

与通用大模型API不同,Decisions API定位于“快速单次决策”。其工作方式是将模型智能约束在开发者预先定义的一组问题和有限答案集合内,从而以极低延迟输出结构化决策结果。开发者需提供上下文(文本或图片),并预先设定“问题+可选答案”,API则返回选中的答案及置信度等信息,供后续业务逻辑调用。

OpenAI将Decisions API的典型应用场景归纳为四类。在客服与工单系统中,该接口可根据用户描述自动判定问题类型、优先级及应分配的团队;在内容审核与策略选择中,可在“允许”“限流”“人工复审”等预定义策略间快速做出选择;在Agent编排的多步工作流中,可作为“决策节点”决定下一步调用哪个工具或子Agent,而非让大模型自由发挥;在实时业务规则辅助场景中,则可在已有规则引擎之上处理模糊地带,在有限选项内给出建议决策,最终由规则引擎裁定。

当前同类产品中,主要竞争模型来自TypeSafe的Jev。不过OpenAI强调,Decisions API的差异化在于将模型智能直接转化为快速决策,而非通用对话或生成能力。这一产品的推出,反映出AI应用正从“聊天交互”向“实时决策”场景延伸,尤其在Agent工作流和企业级自动化领域,低延迟、结构化的决策输出正成为关键需求。

对于企业服务与SaaS厂商而言,Decisions API提供了一种将AI嵌入现有业务流程的轻量路径:无需构建复杂的提示工程或微调流程,即可在客服、审核、工作流编排等环节引入模型判断能力。随着Agent架构在企业软件中加速落地,此类面向决策节点的专用API有望成为AI基础设施层的新竞争焦点。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
OpenAI未公开支持英伟达开放智能体安全平台,但双方已私下展开合
上一篇 2小时前
OpenAI 称 ChatGPT 周活跃用户超 12 亿,企业客户达 250 万家
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部