极光移动有限公司（NASDAQ: JG）近日宣布，其企业级 AI 智能体平台 GPTBots.ai 已集成 TypeSafe AI 推出的决策模型 Jev，构建其所谓的“双层 AI 架构”——一层负责思考，一层负责判断。该集成在 GPTBots.ai 内部引入双层 AI 架构：一层处理推理，一层处理决策，各自针对最擅长的任务进行优化。
此次集成距离 TypeSafe AI 于 9 月 15 日发布 Jev 仅过去一周。Jev 是一款专为决策场景设计的模型，发布后已陆续被 Vercel、Cloudflare、LangChain 等主流开发者平台集成。
当前企业 AI 智能体工作流中充斥着大量无需语言生成的决策环节：用户提问属于账单问题还是技术问题？检索到的文档是否真正回答了用户的问题？哪个模型应当处理当前任务？这些均为二分类或类别判断——是/否、此/彼、相关/不相关。然而多数平台仍通过完整规模的大语言模型来执行这些判断，生成大段文本仅为得出一个分类结果。其后果是：企业为不需要的文字付费，等待本可在毫秒级完成的决策所对应的 token 生成，且无法获得模型置信度的可靠度量。
Jev 正是针对这一缺口而设计。该模型不生成文本，而是以非结构化状态为输入，在单次并行处理中返回结构化的概率性决策——选择、评分或是/否，并为每个答案附带经过校准的置信度分数。根据 TypeSafe 公布的基准数据：速度方面，端到端耗时 70 至 500 毫秒，而前沿大语言模型为 3 至 329 秒；成本方面，每百万输入 token 收费 0.042 美元，输出免费，相比同类 LLM 决策任务最高可便宜 445 倍；可靠性方面，结构化输出错误率为 0％，而部分前沿模型最高可达 45.5％；采用情况方面，发布后数日内即被 Vercel、Cloudflare、LangChain 和 Langfuse 集成。
GPTBots.ai 并非将 Jev 作为事后补充。该平台此前已运行多种决策层机制，此次集成将上述能力深化并统一至一个专用模型之下。该架构按任务性质划分工作：决策层由 Jev 驱动，负责路由、过滤、分类、相关性评分等快速、高并发的判断任务，耗时低于 500 毫秒，成本仅为 LLM 调用的一小部分；推理层则负责复杂推理、文本生成和开放式对话，使用通用大语言模型完成。
对于企业服务领域而言，此次集成反映出一个正在成型的趋势：AI 智能体平台开始将“判断”与“生成”解耦，以专用小模型承担高频决策环节，从而在成本、延迟和可靠性三个维度同时优化。随着 Jev 在开发者平台中的快速渗透，决策层模型能否成为企业 AI 架构的标准组件，值得持续关注。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
