#最大规模预训练的开源具身世界模型来了#

具身智能火了快两年，现在，终于有团队富裕到拿真机数据去砸预训练了。

而且一砸，就是17800小时。

这是啥概念？差不多相当于一台机器人，连续两年、一天24小时不停地被人类遥操作。

当所有人都以为真机数据是奢侈品，难以scaling，只能放在最后的微调阶段时。

刚刚，上海创智学院副教授、智元机器人首席科学家罗剑岚带队，发布全球最大规模的开源预训练具身世界模型——

τ0-World Model（τ0-WM)。

图片
整个τ0-WM参数量达到5B，预训练数据规模高达约3万小时。其中，真机遥操作数据第一次成了绝对主力，占到了1.78万小时。

而3万小时的预训练数据，是目前全球开源预训练具身世界模型中最大的。

τ0-WM不仅能像其他世界模型那样预测未来画面、生成动作。

更重要的是，它还结合了测试时计算（Test-Time Computation），让机器人在执行前对多个候选动作进行排序，选出最优方案，质量不够就调用模拟器修正后再执行。

基于这套方法；τ0-WM在四个长程精细操作任务，包括Toolbox（工具收纳）、School Bag（书包装物）、Badminton（羽毛球装盒）和Faucet（水管接头对接）的平均成功率超过了对标π0.5和Fast-WAM。

可以说，罗剑岚团队此前在后训练方面的持续投入，不仅攒出了足够规模的真机数据，也攒出了把这些数据用于大规模预训练的经验。

预训练和后训练这两条线，终于对齐了。http://t.cn/AXXPnBFC