10月14日,后摩智能在北京举办生态合作伙伴大会。会议期间,极客公园创始人兼CEO张鹏主持了一场圆桌讨论,麒麟软件副总经理兼生态发展中心总经理姚翎、聊趣智能科技创始人兼CEO黄隽实、罗格数据CTO刘学鹏、寅谱计算CMO陈展凌、后摩智能AI系统总工程师陈仲铭五位来自操作系统、应用、数据工程、整机集成和芯片领域的从业者,围绕端侧AI的商业化路径展开对话。
讨论的核心问题在于:端侧AI何时才能真正成为一门可持续的生意。与会者的共识是,需求侧的条件已经成熟,但安全、私域化部署与用户体验三道门槛仍待跨越。
在养老场景中,聊趣智能在上海落地了一套「数字家人」系统,用于陪老人聊天、提醒用药和辅助防诈骗。黄隽实表示,老人日常对话与身体状况属于高度敏感信息,不适合上传云端;系统需要24小时值守,设备运行噪声也必须控制在较低水平。在该场景下,隐私、算力、功耗与噪声直接决定老人是否愿意使用产品。
企业市场的诉求同样明确。刘学鹏认为,客户最关心的是私域化专属能力。AI未来将承担企业数字专家或数字员工的角色,触及核心业务的数据与经验必须留在企业内部,而非交由外部云端服务处理。罗格数据今年落地的央企和上市公司客户中,财税场景涉及大量发票、财报和订单数据,天然不适合在云端模型上推理。其业务模式是按岗位需求向企业派驻「数字专家团」,对算力规模要求相对有限,端侧算力即可满足,形成效果驱动的小切口投资路径。
对党政及央企关键岗位而言,安全门槛更为严格。姚翎表示,AI工具一旦部署在互联网上,涉密数据便不能触碰。大模型可能从不同时段上传的碎片信息中拼凑出完整内容,因此本地安全没有商量余地。麒麟软件今年在客户侧观察到,政策全面导向AI,但部分客户仍存在「不敢用」的顾虑。
需求成立并不意味着生意成立。陈展凌指出,客户未必在意节省了多少Token,更关心首字生成时间、设备是否安静、系统是否卡顿以及能否连续稳定运行。这些体验细节决定产品是被长期使用,还是在演示结束后被搁置。端侧AI的难点不只在于将大模型装入小设备,更在于把通用能力转化为可持续交付的专业服务,模型发布后的适配速度、硬件成本以及软件开发门槛均影响商业化进程。
在底层算力层面,端侧面临算力、带宽与功耗的「不可能三角」。陈仲铭表示,后摩智能当前在功耗控制上进展较好,后续规划了两条产品线:M系列持续提升算力,同时通过更先进的工艺和封装技术扩大带宽,并开放软件、接口和API以降低开发者接入门槛。
面向未来一年,与会者提出的期待集中在生态与规模化两个方向。陈展凌认为端侧AI远未普及,落地场景不够丰富,规模化扩展偏慢,期待更多软件商向端侧转型。刘学鹏则提出「Day 0适配」诉求,认为国内基础算力与模型之间的核心壁垒在于生态,希望芯片厂商在新模型发布当日即完成适配。
刘学鹏在讨论中给出判断:在中国,AI真正落地将呈现「端侧为主、云端为辅」的格局,端侧是个人和企业的专属大脑,云端负责知识流动。这一判断尚待验证,但随着AI从对话能力转向实际业务执行,其处理的数据将涉及企业最核心的资产,算力部署位置的选择也随之从技术选型问题转变为信任问题。对端侧AI产业链而言,芯片、操作系统、应用与整机集成各方能否在生态适配和成本控制上形成协同,将决定商业化落地的实际速度。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。