浙江大学软件学院“百人计划”研究员彭思达团队近期公开SuperNav与ScaleNav两项研究成果,分别对应机器人导航系统中的“大脑”与“小脑”模块。该团队提出,机器人导航不应依赖单一端到端模型,而应采用通用多模态大模型加Agent架构,由大模型负责任务规划与决策,由专用小模型负责高频动作执行。
彭思达在博士阶段师从浙江大学周晓巍教授,于ZJU3DV实验室从事动态三维人体重建研究,其参与的Neural Body工作曾入选CVPR 2021最佳论文候选,后续4K4D将动态场景渲染推进至4K实时水平,FreeTimeGS进一步提升了渲染质量的落地可用性。相关技术后被创业公司4DV.ai采用,应用于影视内容制作场景。2023年博士毕业后,彭思达留校任教并入选浙江大学软件学院“百人计划”,研究方向从人体重建转向街道场景重建,与理想汽车合作开发自动驾驶仿真系统,Street Gaussians被应用于理想汽车的仿真系统中。
在导航研究上,团队观察到直接微调视觉语言模型(VLM)输出动作存在两类问题:一是微调后VLM原有识别能力下降,二是可微调的小参数量模型空间推理能力不足。彭思达认为,模型能力应在预训练阶段注入,而非通过小数据集微调获得,否则容易过拟合且缺乏能力验证。基于此,团队选择以通用多模态大模型作为核心进行规划与推理,并通过Coding Agent架构调用外部工具完成执行。
具体分工上,SuperNav承担决策系统职能,负责任务目标选择、记忆构建与导航路线规划;ScaleNav承担导航小脑职能,在给定目标点后负责具体行进控制。彭思达指出,端到端大模型受限于通信延迟,本地机器人上传观测至服务器至少需要约一秒,难以满足真实操作场景下50赫兹的交互频率要求,因此高频交互能力更适合交由底层小模型承担。感知、推理与上下文理解由VLM完成,记忆构建可借助成熟的SLAM工具,动作预测则外包给专用小模型。
从动态人体重建、自动驾驶仿真到具身智能导航,彭思达认为视觉并非智能的核心要素。对于推理与规划,文本模态更为关键;对于机器人操作,理解动作轨迹的因果性才是重点。这一判断也构成其团队在具身智能领域选择Agent路线而非端到端路线的底层逻辑。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。