Cloudflare近日通过其AI Gateway产品发布了Auto Router的公开测试版。该功能基于分类器对每个请求的复杂度、模糊性、风险程度和上下文依赖性进行评分，并据此为每个请求动态选择最合适的模型。
根据Cloudflare公布的自有基准测试数据，Auto Router在任务成功率上比Claude Opus 5.5低10个百分点，但成本仅为后者的三分之一。这一数据表明，该产品定位并非追求极致性能，而是在成本与效果之间提供一种可配置的折中方案。
Auto Router的核心机制在于逐请求的模型路由决策。与固定使用单一模型的做法不同，分类器会评估每个输入的特征，包括任务本身的复杂程度、表述是否存在歧义、错误的潜在代价（即风险程度），以及任务对上下文的依赖强度，从而在多个可用模型之间做出选择。Cloudflare将AI Gateway定位为开发者调用和管理多种大模型的中介层，Auto Router是其在这一方向上新增的能力。
不过，该产品的一个关键设计点引发了从业者的讨论。有实践者提出疑问：在长时间运行的智能体会话中，风险程度这一维度如何被持续准确地评估。智能体任务往往跨越数十轮交互，早期请求的决策可能影响后续所有步骤，而逐请求的路由方式能否在会话层面保持一致的判断标准，目前尚缺乏公开的验证数据。Cloudflare此次发布为公开测试版，也意味着相关机制仍处于迭代阶段。
从行业角度看，多模型路由已成为AI基础设施层的一个活跃方向。随着企业接入的大模型数量增加，如何在推理成本、响应质量和延迟之间进行自动化权衡，正从人工配置转向由平台侧统一调度。Cloudflare凭借其在边缘网络和开发者工具方面的既有基础切入这一环节，Auto Router的后续表现将取决于分类器准确性与实际生产环境中的稳定性。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
