AMD于当地时间11月19日宣布,其锐龙AI处理器搭载的XDNA 2 NPU成为首款获得Unsloth Desktop本地界面支持的神经网络处理器。此次适配意味着本地AI推理负载可以在NPU上完成,而不再完全依赖CPU与GPU。
从技术实现看,兼容的应用程序将模型请求发送至Unsloth Desktop API,由Lemonade和FastFlowLM在AMD XDNA 2 NPU上完成模型服务与推理,响应结果再返回应用程序供其工作流程调用。这一链路将智能体运行的核心计算环节转移至NPU。
适配带来的直接影响是智能体运行范围的扩展。OpenClaw、Hermes等超过一百款智能体可通过Unsloth Desktop在锐龙AI处理器的NPU上本地运行,相关AI工作负载从CPU和GPU卸载后,可释放更多算力用于其他任务,同时有助于延长配备电池设备的续航时间。
Unsloth此前主要以模型微调工具为开发者所知,Unsloth Desktop的推出将其能力延伸至本地推理界面层。此次与AMD XDNA 2 NPU的对接,使其成为连接上层智能体应用与底层NPU算力的中间层。对AMD而言,这是其在端侧AI生态建设上的一次具体落地,NPU从规格参数走向实际可调用的推理资源。
端侧AI的竞争焦点正在从算力指标转向软件栈与开发者生态的完整度。NPU能否被主流工具链快速接纳,直接影响其在本地智能体、隐私敏感型应用等场景中的实际使用率。AMD此次率先完成与Unsloth Desktop的适配,为其在端侧推理工具链的卡位提供了先发条件,后续能否吸引更多智能体框架与模型服务商接入,将决定这一生态的实际覆盖范围。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。