英伟达近日推出个人AI路由器（NVIDIA Personal AI Router，简称PAIR）测试版，该工具可将本地网络中多台计算机的推理能力进行整合，并自动在它们之间分发AI请求。
据英伟达介绍，PAIR主要面向本地多智能体AI工作负载场景。在这类场景中，多个独立的模型调用可能使单块GPU不堪重负，而PAIR能够将请求分散到局域网内的多台设备上，从而提升整体推理吞吐能力。用户无需手动指定每项任务由哪台设备处理，系统会自动完成调度与分配。
当前，随着大模型和智能体应用的普及，本地部署AI推理的需求持续增长。开发者与企业在运行多智能体系统时，往往需要同时发起大量并行的模型调用，单机GPU的显存和算力容易成为瓶颈。PAIR的推出为这一痛点提供了一种低成本解决方案——通过聚合现有本地设备的闲置算力，而非依赖单台高性能工作站或额外采购云端算力。
从产品定位看，PAIR处于英伟达AI软件栈的应用层，与CUDA、TensorRT等底层工具形成互补。它并不替代现有的推理框架，而是作为调度层存在，将局域网内多台机器的推理资源统一编排。这一思路与当前业界对分布式推理和边缘AI协同的关注方向一致。
目前PAIR以测试版形式开放，英伟达尚未披露正式版发布时间及具体支持的硬件型号和操作系统范围。对于拥有多台配备英伟达GPU设备的开发者和中小团队而言，该工具有望降低多智能体应用的本地部署门槛。后续其调度效率、兼容性及在实际工作负载中的表现，将是衡量其实用价值的关键指标。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
