物理AI与端侧推理加速落地,芯片厂商面临带宽、延迟与综合平衡三道新考

云、边、端不是替代关系,而是融合关系。而物理AI,则把这种融合推向了更极端的形态。

过去两年,AI产业的讨论焦点集中在模型规模与训练算力。进入2025年至2026年,风向正在发生变化,物理AI与端侧AI逐渐成为应用落地的关键方向。产业界关注的问题从AI能做什么,转向AI能落在哪里、由谁承载。当AI从数据中心走向终端设备、车间和街头,其运行环境不再具备稳定供电、充沛带宽和恒温机房,而是面临有限电池、弱网环境和严苛实时性要求的约束。

市场数据印证了端侧AI的渗透速度。据CounterPoint Research统计,2025年全球人形机器人装机量中,中国占比超过80%。IDC数据显示,2025年中国具身智能机器人用户支出规模约为14亿美元,预计到2030年将达770亿美元,年均复合增长率约94%。在更广义的端侧AI领域,IDC统计显示2025年全球AI PC出货量约1.14亿台,渗透率约43%;Gartner预计2026年这一数字将升至约1.43亿台,渗透率超过55%。

英特尔公司副总裁兼端侧计算和物理AI事业部中国区总经理高嵩指出,物理AI与数字AI存在本质差异。数字AI有相对固定的技术套路,但物理世界没有统一形态,不同行业、场景和任务催生了差异化需求。数字AI可低成本收集海量互联网数据,而物理世界的数据难以获取。更关键的是,物理AI无法只执行单一任务,当前具身智能企业普遍面临的问题是在特定场景训练好的机器人换一个环境即失灵。Figure AI近期研究显示,通过特殊训练方法、数据采集方式和模型架构,机器人进入未经训练新场景的成功率可从9%提升至56%,但距离可部署、可复制、可量产仍有相当距离。

端侧AI的落地逻辑更为现实。英特尔行业及解决方案业务部总经理王景佳举例称,汽车导航场景中,许多车辆可完成语音问答,但在川西等复杂路况下导航可能不工作,无网或弱网环境下稳定运行对行业场景至关重要。视源股份商用显示BG副总裁王玉龙表示,Token单价虽在下降,但输出优质效果所需的上下文快速扩张,Token消耗量快速增长,视源每月AI账单数额庞大。端侧部署算力可降低用户真实使用成本,并为隐私数据安全提供保障。商米科技执行董事、产品线总经理陈桂鸿以零售场景为例指出,门店点餐结算若完全依赖云端,将受网络带宽和稳定性影响。视源股份的课堂观察产品则因未成年人隐私受法律严格保护,所有课堂数据均在本地预处理,上传云端的是脱敏数据。

产业链正在形成共识:云、边、端并非替代关系,而是融合关系,物理AI将这种融合推向更极端形态。高嵩举例称,一家电能领域企业要求在做硬件设计、画电路板和元器件选型时同步进行空间仿真,根据仿真结果规划安装流程,这实际上将后端工作前置,物理AI对算力和工作流的要求正向更深更广的维度蔓延。

端侧AI与物理AI的发展给芯片厂商带来三道新考题。第一是带宽与距离成本。Imagination CEO Markus Mosen将SoC内GPU、DSP、NPU等部件通过外部内存来回传数据的昂贵通信称为边境税。Imagination的解法是让AI进入图形管线,其NSR神经超分辨率技术以540p到1080p超分为例,在1GHz单核E系列GPU上延迟低至2.3毫秒,与原生渲染相比显著提升帧率的同时将内存带宽消耗减半。

第二是prefill与decode之间的取舍。本地大模型工作负载分为预填充和解码两个阶段,预填充阶段的核心指标是Time to first token。Imagination实测数据显示,车载规划行程TTFT约0.2秒、150 tokens/s;盲人智能眼镜描述环境TTFT约0.25秒、153 tokens/s;邮件解读摘要TTFT 0.86秒、约126 tokens/s。解码阶段取决于系统带宽,系统带宽受限时更多TOPS无法解决系统问题。

第三是综合能力的平衡。王景佳总结称,端侧AI部署不仅是成本问题,需要综合考虑服务器、时延、响应、成本、隐私安全等多个维度。在中国独特的商业和技术生态中,越来越多商业场景客户依赖边缘部署或云边端混合部署,端侧设备并非算力越大越好,而需匹配具体场景。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
京津冀加快建设世界级智能网联新能源汽车集群,将攻关固态电池、汽车芯片与操作系?
上一篇 3小时前
深蓝汽车第 100 万辆整车正式量产下线
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部