谷歌开源跨平台GPU计算引擎ML Drift,加速端侧AI推理

该引擎以Apache 2.0协议开源,旨在屏蔽不同GPU硬件与底层API的差异,支持OpenGL ES、OpenCL、Metal和WebGPU。

谷歌近日发布开源跨平台GPU计算引擎ML Drift,面向端侧AI与机器学习推理场景。该引擎以Apache 2.0协议开放源代码,核心目标是抽象不同GPU硬件与底层图形计算API的复杂性,降低开发者在多样化设备上部署端侧AI推理的门槛。

根据公开信息,ML Drift支持的底层API覆盖OpenGL ES、OpenCL、Metal和WebGPU。这意味着开发者可以借助统一的计算引擎接口,在移动端、桌面端及浏览器环境等不同平台上调用GPU算力执行推理任务,而无需针对每种硬件与图形接口分别适配。跨平台GPU算力抽象一直是端侧AI落地的关键环节,不同厂商的GPU架构与驱动能力差异较大,碎片化问题长期制约推理性能的稳定释放。

从技术定位看,ML Drift属于端侧AI基础设施层工具,处于上层机器学习框架与底层GPU硬件之间。谷歌此次将其开源,延续了其在端侧机器学习领域推动开放工具链的策略。Apache 2.0协议允许商业使用与修改分发,有助于吸引硬件厂商和框架开发者参与适配,扩大支持设备范围。

端侧AI推理正成为行业竞争焦点。随着大模型能力向终端下沉,如何在手机、PC、浏览器等设备上高效利用GPU资源完成推理,成为开发者关注的核心问题。ML Drift以跨平台抽象的方式切入这一环节,若生态适配顺利推进,有望减少开发者在多硬件环境下的重复工程投入,并为端侧AI应用的性能优化提供统一入口。

目前谷歌尚未披露ML Drift的具体性能基准数据与已适配的硬件清单,其实际推理效率与生态覆盖范围仍有待开发者社区验证。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
Google芬兰数据中心建设砍伐1300英亩森林,狼群因猎物减少进入村庄
上一篇 2小时前
谷歌与Meta在PyTorch大会开源TorchTPU,Meta计划将更大规模大模型负载迁移至TPU
下一篇 1小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部