一项跨区域算电协同实测在三天内累计调度28万余次AI推理请求,单位Token的算力用电成本下降约31%。这一数据来自此前公开报道,反映出算力任务跨集群迁移在降低用电成本方面的实际空间。与此同时,Google、英伟达和Emerald AI共同发起AI能源管理联盟,尝试让数据中心根据电网状态灵活调整用电负荷。国内外围绕算力与电力协同的探索正在同步展开。
共绩科技创始人兼CEO付智将这一方向概括为“用网线代替电线”。自2023年起,该公司开始探索分布式算力,判断随着AI应用增加,未来推理任务不会全部集中于大型集群,部分需求将由不同地区、不同主体建设的中小集群承担。付智提出,中国部分地区的风电、光伏存在消纳、传输和储存难题,若电力不便输送到计算需求所在地,可将计算任务反向迁移至电力充裕地区执行。
跨集群调度的技术难点集中在任务迁移之前的准备工作。共绩科技CTO许钟子珩介绍,不同集群可能运行在裸金属服务器、云平台或第三方企业生产环境中,开放的接口、管理权限和硬件条件各不相同,调度平台需根据差异完成接入,并尽量避免干扰原有业务。此外,任务配套数据存在较强的“引力”,例如一家AI创作平台的模型仓库超过10TB,包含成千上万个模型,需通过镜像预热、模型分发和缓存等方式提前在目标集群准备所需文件,才能实现快速切换。硬件层面,共绩已针对英伟达、昇腾、海光等计算平台开展模型适配,许钟子珩认为异构调度最繁重的工作发生在适配阶段。
商业化仍是算电协同面临的主要障碍。付智表示,国内不少机房通过调节计算负荷获得的收益尚不明显,若相关设备和调度投入超过节省的电费,运营商缺乏主动参与动力,这也是国内算电协同尚未形成大规模商业闭环的原因之一。许钟子珩补充,国内不少数据中心采用协议电价,而美国市场当前更关注应对电力供应限制,国内则可能随电力市场机制完善,更关注电价预测、负荷预测及降低算力运营平均用电成本。
在任务分配逻辑上,许钟子珩透露,共绩目前主要考虑集群剩余资源和计算实例成本,优先将任务安排至空闲算力多、租用价格低的集群,但这里的成本仍是算力使用价格,尚未实现与电网实时电价的联动感知。付智认为,建设分布式算力网络可能是一门持续数十年的生意,但行业早期机会窗口或许只有两三年,率先连接足够多算力资源、占据网络关键位置的参与者更有可能获得竞争优势。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。