Modal公司两名资深工程师Colin Weld与Connor Adams近日发表技术文章，详细介绍了团队如何从零重建沙箱基础设施，以支撑数百万并发沙箱运行以及每秒数万次的沙箱创建需求。
Modal是一家提供无服务器云平台的企业服务公司，其核心业务聚焦于为开发者提供AI模型部署与运行环境。沙箱技术是其平台的关键组件，用于隔离和执行用户代码。随着AI工作负载规模持续扩大，原有基于Kubernetes的沙箱架构在扩展性和启动速度上逐渐触及瓶颈。
据文章披露，团队最终选择放弃依赖Kubernetes进行沙箱编排，转而构建一套全新的专用基础设施。新架构能够实现百万级并发沙箱的稳定运行，并将沙箱创建速率提升至每秒数万个。这一改进直接解决了AI应用场景中对弹性计算资源的瞬时高并发需求。
从行业视角看，Modal此次技术调整反映了当前AI基础设施领域的一个趋势：传统容器编排系统在面对AI工作负载的极端弹性要求时，逐渐显现出调度延迟和资源开销方面的局限。专用沙箱基础设施的构建，正在成为部分AI云平台提升竞争力的技术路径。
Modal方面未披露新架构的具体实现细节和底层技术选型，但表示相关经验将为后续平台能力扩展提供基础。该技术方案的实际表现和稳定性，仍有待更大规模生产环境的验证。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
