苹果研究团队于11月4日在预印本平台arXiv提交论文《Perceptive Humanoid Motion from Simulation》,披露了人形机器人自主控制系统HALO,并同步公开数据生成、模型训练与部署代码,覆盖动作生成、动作跟踪、任务编排以及仿真和真实机器人运行等环节。
在硬件落地层面,研究团队采用宇树科技G1人形机器人作为载体,背部加装专用3D打印保护外壳,内置一台搭载M4 Pro芯片、64GB统一内存的Mac mini。该Mac mini负责在机载端实时推理计算开销较大的任务编排模块Orchestrator(基于视觉语言模型)与动作生成模块Motion Generator(基于DiT架构);G1自带的板载芯片则专注运行高频动作跟踪器Tracker(强化学习策略网络)。
HALO采用三层协同控制架构。最上层为基于视觉语言模型的任务编排模块,默认采用千问Qwen3.6-35B-A3B,系统也可选择通过API调用云端模型;中间动作生成层采用另一款千问模型Qwen3.5-2B;底层为经强化学习、策略蒸馏等步骤训练的动作跟踪器,以每秒50次的频率运行。
据论文披露,研究团队在6个未预先扫描或建图的真实环境中开展360次单项任务测试,平均成功率为91%。针对长序列复合任务,团队在单一真实场景中各进行10次测试,3种组合的平均成功率为70%;其中最复杂的“俯身通过障碍—走向目标—推箱子”任务10次测试成功5次,成功率为50%。
训练数据方面,研究团队使用250张英伟达H100 GPU,耗时约48小时合成主要训练数据。动作生成器通过模仿学习训练,使用64张B200;动作跟踪器经强化学习、策略蒸馏等步骤训练,使用4张H100。团队同时表示,仿真生成数据尚未完全摆脱人工参与,新增物理任务仍需人工编写提示词、设计动作关键帧,部分动作还使用了人类视频或动捕素材。
研究团队指出,当前系统主要依赖视觉感知,难以直接感知接触情况;当物体离开相机视野或被遮挡时,涉及较多接触的任务表现会下降。加入触觉感知将是后续改进方向之一。此次苹果公开完整代码与训练流程,为人形机器人在未建图环境中的自主运动控制提供了可复现的研究样本,其分层架构与仿真数据合成路径或对具身智能领域的工程实践形成参考。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。