英伟达发布端到端自动驾驶模型Alpamayo 2 Edge,闭环表现提升48.9%

Alpamayo 2 Edge希望让汽车里的AI不仅能看懂道路,还能理解复杂交通关系、分析潜在风险,并根据场景自主生成驾驶动作。

英伟达于11月10日发布端到端自动驾驶模型Alpamayo 2 Edge,该模型采用视觉语言模型(VLM)与扩散动作专家相结合的双模块架构,在闭环驾驶表现上提升48.9%。模型基于车规级芯片DRIVE AGX Thor运行,VLM骨干参数规模约2.45B,动作专家参数约0.2B。

与直接输出轨迹的传统端到端模型不同,Alpamayo 2 Edge被要求生成Chain-of-Causation(因果链)推理,即在输出驾驶动作的同时解释决策依据。这一设计旨在让车载AI从场景感知与理解进一步延伸至驾驶动作生成,覆盖道路识别、交通关系分析、风险判断和动作输出等环节。

车载场景对推理效率提出严格约束。自回归语言模型生成的推理文本越长,耗时越高,而车载系统还需为视觉编码和轨迹生成预留算力。为此,英伟达引入Adaptive Reasoning机制,并设计特殊标记<NOMINAL>。当模型判断当前处于常规驾驶状态时,直接输出该标记以结束显式推理文本生成;遇到复杂交通交互时,再生成完整的因果链推理。该标记并不关闭视觉网络,也不跳过后续动作计算,其作用是减少常规场景下的推理Token消耗。

在训练数据构建上,英伟达的自动标注流程先从车辆轨迹中提取Meta-Action(自车高层运动行为),再根据行为变化时间点定位关键帧,随后调用VLM生成场景因素与驾驶动作之间的因果解释。标注需经过验证,检查解释是否有画面依据、描述动作是否符合实际轨迹。英伟达使用Alpamayo 2 Super生成因果链自动标注,再通过离线蒸馏训练Edge模型。公开数据约包含115,000小时多摄像头驾驶视频及370万条因果链推理标注。

轨迹生成由独立的Diffusion Action Expert承担,与VLM骨干形成双模块架构。模型每轮处理6路摄像头、22帧图像:前向广角和长焦各提供5帧,覆盖过去2秒至当前时刻;左右侧向与后向四路摄像头各提供3帧,覆盖过去1秒至当前时刻。同时接收20个历史Ego Pose,按0.1秒间隔覆盖过去1.9秒,并转换至当前自车坐标系。动作专家输出每个时间步的加速度和曲率,通过Unicycle Model积分形成车辆轨迹,最终输出64个Waypoints,覆盖未来6.4秒,每0.1秒一个点,包含XYZ位置和3×3旋转矩阵。

训练环节采用Flow Matching方法,公开推理配置默认执行10步Euler积分。架构中设置了Detach梯度隔离机制:动作专家接收VLM输出的条件特征,但动作损失不会反向更新VLM,以减少连续控制目标对语言视觉骨干的梯度干扰,使两个模块分别优化语义理解与运动生成。该设计也带来上游理解偏差无法通过动作损失直接修正的问题,因此需要独立的评价机制进行校验。

为此,英伟达引入AlpaJudge,将因果链推理质量转化为可评估的训练信号,提供Reference-Based和Reference-Free两个版本。前者接收问题、参考解释和候选解释,判断文本对齐程度但不读取图像,适用于已有专家标注的样本;后者无需参考解释,输入包括前向广角和长焦摄像头画面、自车Meta-Action历史与未来以及模型生成的因果链,从动作匹配、安全性、场景依据、要素完整性和因果一致性五个维度评价推理质量。

从技术路线看,Alpamayo 2 Edge的核心思路是在车载算力约束下平衡推理深度与响应速度,通过自适应推理控制文本生成开销,并以因果链监督提升场景理解的显式性。该模型面向车规级芯片部署,其架构设计对端到端自动驾驶在有限算力平台上的落地具有参考意义。自动生成的因果链可能继承教师模型偏差,解释与实际驾驶动作的一致性仍需在后续训练与评测中持续检验。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
西湖大学成立世界模型研究中心,发布40亿参数Awomo-0.5模型六项评测登顶
上一篇 3小时前
鸿蒙智行问界新 M8 正式上市,37.98 万-46.98 万元
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部