OpenAI全面开放决策API,基于GPT-6 Luna,输入每百万token收费0.1美元

该API基于GPT-6 Luna构建,将Luna的模型智能聚焦于具有限定答案的问题,协助应用程序与智能体基于文本、图像及结构化输入做出准实时决策。

当地时间10月22日,OpenAI宣布全面开放决策API(Decisions API)。该API基于GPT-6 Luna构建,将模型能力聚焦于具有限定答案的问题,协助应用程序与智能体基于文本、图像及结构化输入做出准实时决策,响应速度较通过Responses API调用GPT-6 Luna提升最高10倍。

定价方面,决策API输入每百万token收费0.1美元,命中缓存的输入每百万token收费0.01美元。该API仅按输入token计费,输出token免费。这一价格结构意味着,对于答案边界明确、输出长度有限的高频决策场景,调用成本主要由输入规模决定,缓存机制则进一步降低了复用上下文的开销。

自公测以来,该API新增了原生的GPT-Live集成、针对复用上下文的Prompt缓存,以及在美国和欧盟的推理数据驻留支持。开发者现已支持传入原生JSON输入、在问题指令中包含图像,并在单次请求中最多提交400个问题,为此前上限的两倍。OpenAI同时表示已持续优化延迟表现,包括在亚洲多个地区扩充服务容量。

OpenAI称,其内部团队正在将决策API应用于产品和业务工作流。从能力定位看,该API并非面向开放式生成任务,而是针对分类、判定、结构化抽取等答案受限的场景,与通用对话接口形成分工。响应速度的大幅提升和按输入计费的模式,使其更适合嵌入需要低延迟、高并发的业务系统。

对开发者而言,决策API的全面开放降低了将模型能力接入实时业务流程的门槛,缓存定价和批量提问上限的提升也扩大了其在智能体工作流中的适用空间。随着OpenAI在亚洲扩充服务容量,该产品在亚太地区的延迟表现值得持续关注。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
奥尔特曼谈AI冲击数学研究:数学家经历从恐慌到接受的转
上一篇 1小时前
1Password推出智能体密码授权平台,AI代登录全程不接触用户凭据
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部