2026-10-12 · 来源：{'name': '虎嗅·中继', 'url': 'https://www.huxiu.com/article/4896763.html'}
不生成画面、在抽象空间预测未来；2022年的分层构想，四年后首获可复现实现
Visual AntMaze迷宫任务上，单层模型LeWM成功率仅18%，堆到三层的H-JEPA将其拉升至73%——这是杨立昆分层世界模型路线首个可复现的完整实现，距他在2022年论文《一条通往自动机器智能的路》中提出分层JEPA构想，已过去四年。
JEPA全称Joint-Embedding Predictive Architecture，即联合嵌入预测架构。与当下视频生成式模型不同，它不画下一帧画面，而是把画面压缩成一组抽象向量——潜在表征，再在这个抽象空间里预测未来，如同两人闭眼下棋：不摆棋盘，念出“帅五进一”“兵一进一”，对方便能在脑海中推演棋局走势。H-JEPA则把多个JEPA逐层堆叠，每一层都配有观察编码器、动作编码器和潜在预测器，在各自的表征空间预测不同时间跨度的状态：最底层管得最细、看得最近，越往上看得越远、越宏观。
规划时的顺序恰好反过来：高层先给出一个粗略的目标状态，它成为下一层的子目标，逐层细化，直到最底层输出动作。这套分层逻辑源自杨立昆“从纽约去巴黎”的概念——从北京去上海，人脑会先定“坐高铁”，再想怎么去北京南站，最后才是先迈哪只脚；订票层只需时间、价格、车次，迈步层才需要重心、台阶、地面。而这恰恰是Transformer最头疼之处：按token逐一预测，等于把订票、去车站、下楼梯三件事揉在一起想，步骤越多越容易出错。论文指出，扁平的单层模型在长任务里要展开大量细粒度步骤，预测误差不断累积，动作搜索空间也随之膨胀。
从18%到73%的跃升足够醒目，但疑问随之而来：三层既然已如此有效，为何不堆到一百层？分层JEPA的天花板在哪里，仍待杨立昆给出答案。
主题标签: Yann LeCun · H-JEPA · JEPA · LeWM · World Model
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅