杨立昆（Yann LeCun）团队近日发布分层联合嵌入预测架构H-JEPA（Hierarchical Joint-Embedding Predictive Architecture），首次为四年前提出的分层JEPA构想提供了可复现的完整实现。该模型在Visual AntMaze迷宫任务中将成功率从单层LeWM的18％提升至三层的73％，同时在Push-T任务中显示层数并非越多越好——两层表现较优，增至三至四层后成绩反而下降。
H-JEPA的技术路径与当前主流的视频生成式模型不同。JEPA架构不预测下一帧画面，而是将画面压缩为抽象向量（潜在表征），在抽象空间内预测未来状态。H-JEPA在此基础上将多个JEPA逐层堆叠，每层配备独立的观察编码器、动作编码器和潜在预测器，分别在不同时间跨度上预测状态。规划时由高层先给出粗略目标，逐层向下细化，直至底层输出具体动作。这一分层逻辑对应杨立昆此前提出的“从纽约去巴黎”规划概念：订票层只需知道时间、价格、车次，迈步层才需要处理重心与台阶。
论文指出，扁平的单层模型在长任务中需展开大量细粒度步骤，预测误差会累积，动作搜索空间随之膨胀。分层后，高层仅需在少数步骤中决定方向，细节交由下层处理，规划计算量显著降低。这一思路与当前主流Agent将长任务拆解为更多步骤、消耗更多token反复试错的路径形成直接对立。杨立昆在今年1月达沃斯论坛上曾表示，LLM能通过律师考试、能写代码，但无法真正处理现实世界的复杂问题，并称“我无法想象，一个不能预先预测自己行动后果的系统，能被造成agent”。
H-JEPA的训练方式同样与当前Agent依赖奖励信号的范式相反。论文强调其训练“不用奖励，也不用重建”，全程在表征空间内学习预测下一个状态，无需外部评分，也无需还原像素。在Push-T任务中，三层仅能利用LeWM约58％的可迁移训练数据，四层则降至约14％，论文推测任务轨迹较短限制了高层可用的训练数据。
值得注意的是，杨立昆在论文中未提及递归超级智能（RSI）。今年5月，由前Meta FAIR研究总监田渊栋联合创立的递归超级智能公司结束隐身状态，获得超6.5亿美元融资，投前估值约46.5亿美元。田渊栋是杨立昆在FAIR时期的下属，该公司主张让AI递归地改进自身。杨立昆的观点是，让AI反复改进自己，提升的仍是基础能力，而当前世界模型与理想Agent所缺失的多模态与推理能力，无法通过RSI补足。
H-JEPA的发布为世界模型研究提供了一条区别于“更多token、更长上下文”的扩展路径，即通过增加抽象层级、在不同时间尺度上使用不同表示来提升长任务规划能力。这一方向能否在更复杂的现实场景中验证，将决定其能否对当前以规模扩张为主导的AI叙事构成实质性挑战。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
