谷歌宣布，Google Cloud API Gateway的流式传输支持已进入公开预览阶段。该功能将API网关原有的请求-响应模式扩展至支持需要实时通信的应用，谷歌方面表示，这一能力对提供流式模型响应、多步骤智能体工作流以及交互式会话的AI应用尤为重要。
API网关通常承担API请求的路由、鉴权、限流与监控等职责，其传统工作方式为客户端发起请求后等待服务端返回完整响应。流式传输支持引入后，网关可在连接保持期间持续向客户端推送数据，从而适配大模型逐token输出、智能体多轮任务执行等长连接场景。此前，这类实时交互需求往往需要绕过网关或另行搭建专门的接入层，增加了架构复杂度和运维成本。
从行业背景看，随着大模型应用从简单的问答对话向智能体工作流和交互式会话演进，后端服务的通信模式正在发生变化。流式响应成为AI应用的基础能力之一，而承载API流量的网关层能否原生支持流式传输，直接关系到企业AI应用的部署效率与架构一致性。谷歌此次将流式能力下沉至API网关，意味着企业在沿用既有API治理体系的同时，可以减少为实时AI场景单独构建基础设施的需要。
目前该功能处于公开预览阶段，谷歌尚未披露其正式商用时间及具体计费方式。对于已在Google Cloud上构建AI应用的企业而言，这一更新提供了一条在现有API管理框架内接入实时通信能力的路径，其实际表现与生态兼容性仍有待更多开发者验证。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
