影总Tim
26-11-13 23:40 微博认证:汽车博主 微博原创视频博主

从 Exo2EgoPolicy 到 Vbot Echo,维他动力正在尝试解决具身智能最难的一道题

今天看到 Vbot 维他动力发布的 Exo2EgoPolicy 和 Vbot Echo

过去两年,具身智能行业讨论最多的是什么?大模型、VLA、世界模型、端到端、强化学习,以及机器人到底什么时候能真正走进家庭。

但这些技术路线背后始终绕不开一个问题:机器人究竟应该从哪里获得足够多、足够真实、足够丰富的训练数据?

自动驾驶行业已经给过我们一次答案。

特斯拉能够持续推进 FSD,一个重要基础就是庞大的真实车辆数据来源。车辆在真实道路上行驶,持续接触不同交通参与者、道路结构和复杂场景,形成数据采集、训练、验证和迭代的循环。

而具身机器人面临的情况要复杂得多。

汽车主要解决的是驾驶任务,机器人却要面对一个开放的物理世界。它不仅需要理解环境,还要操作物体、协调双手、控制身体,并且处理各种接触关系。

拿起杯子、折叠衣服、打开柜门,这些人类觉得再简单不过的动作,对机器人而言,都涉及视觉感知、空间理解、运动控制和物理交互。

如果所有数据都依靠机器人在真实环境中采集,成本和效率就会成为限制行业发展的关键因素。

这也是我觉得 Vbot 这次技术发布值得关注的原因。

它没有把全部注意力放在如何制造一台更强的机器人上,而是把问题向前推进了一步:能不能让机器人直接学习人类已经积累的海量操作经验?

一、互联网拥有海量人类经验,但机器人一直很难直接利用

我们每天都在产生大量视频。

做饭、洗衣服、整理房间、维修设备、组装家具,甚至只是随手拿起桌上的一个杯子,这些动作都有机会被摄像头记录下来。

从数据规模看,互联网视频远远超过任何一家机器人公司依靠专用设备能够采集的数据。

但问题是,绝大多数互联网视频都是第三人称视角。

镜头拍摄的是一个人在做什么,而机器人需要学习的,是站在操作者的位置,理解双手如何运动、物体如何变化、动作应该如何执行。

这两者存在很大的差异。

例如,我们看到一个人把箱子从桌面搬起来。

第三人称视频能够告诉我们,人弯下腰、伸出双手、抓住箱子,然后将它抬起。

但是机器人真正需要的,不只是识别这些动作。

它还需要知道双手与箱子的相对位置、物体的空间结构、动作发生的先后顺序,以及接触过程中可能产生的物理约束。

更麻烦的是,人和机器人的身体结构并不相同。

人的肩关节、手臂长度、手指结构,与机器人执行器的自由度、关节限制和运动范围,都存在差异。

因此,把视频中的人体动作直接复制给机器人,往往行不通。

视频里看得懂,不代表机器人做得出来。

这就是具身智能数据领域长期存在的一道鸿沟。

二、Exo2EgoPolicy:把第三人称视频转换为第一人称学习素材

Vbot 这次发布的 Exo2EgoPolicy,核心思路就是跨视角视频生成。

简单理解,就是给模型一段从旁边拍摄的人类操作视频,让它生成更接近操作者自身视角的连续画面。

比如一个人正在桌前整理物品。

原始视频来自旁边的手机或者摄像头,能够看到人物、双手和操作环境。

Exo2EgoPolicy 则尝试从这些信息中理解人物与物体之间的空间关系,再按照指定的目标视角,生成对应的第一人称操作视频。

从公开的模型结构看,它并不是简单进行视频裁切或者视角变换。

整个系统涉及多个技术环节。

首先,利用视频编码器提取原始操作视频中的时序信息,并通过多模态编码器理解场景和任务语义。

其次,在生成过程中加入相机几何条件,让模型能够参考目标视角与原始视角之间的空间关系。

最后,借助视频生成模型,合成目标视角下的连续画面。

这里值得关注的是,它采用了视频生成主干,并在训练阶段引入几何约束、语义监督和手部相关监督。

这说明开发者希望解决的不只是画面好不好看,而是生成结果能否保留操作任务真正需要的信息。

比如双手在哪里、物体在哪里、手和物体什么时候发生接触,以及整个动作是否具有连续性。

这些信息才是机器人学习的基础。

传统视频生成模型追求的是视觉真实感。

但具身智能需要的是另一种真实:动作关系必须正确,空间结构必须合理,物理交互不能随意编造。

一段视频即使看起来非常逼真,只要手指穿过了物体,或者抓取过程中物体突然改变位置,它对机器人训练的价值就会大打折扣。

所以,Exo2EgoPolicy 真正值得研究的,不是能不能生成一段漂亮的第一人称视频,而是它能否在视角转换的同时,尽量保留原始操作中的几何结构、动作时序和交互关系。

这是视频生成技术从内容创作走向具身智能训练的重要区别。

三、从人类动作到机器人动作,中间还有一道运动学问题

即便已经生成第一人称视频,事情也没有结束。

因为第一人称视频仍然只是视觉数据。

机器人需要的是能够执行的动作。

Vbot Echo 数据管线中,另一个重要环节就是运动学适配。

公开技术方案显示,系统会结合目标机器人的身体结构和关节约束,将人类的全身及手部运动适配到机器人运动空间。

这里涉及一个具身智能领域的重要概念:Retargeting,也就是动作重定向。

举个例子。

人类伸手拿杯子,可以通过肩膀、手肘、手腕和手指的协同完成。

但是不同机器人具有不同的机械结构。

有些机器人拥有灵巧手,有些只有简单夹爪;有些手臂具有七个自由度,有些关节运动范围更小。

所以机器人不能照搬人的关节角度,而是需要在自身结构约束下,尽量实现相同的操作目标。

这就要求系统在保留任务意图的同时,重新计算机器人的运动方式。

Vbot Echo 还进一步加入了仿真场景构建、物理交互重演和质量校验。

按照发布材料,系统会检查运动稳定性、物体穿透以及轨迹跟踪误差,并将校验结果反馈到处理流程中。

这一步非常重要。

因为生成式模型可以产生视觉上合理、物理上却不成立的动作。

例如机器人手臂直接穿过桌面,或者夹爪还没有接触物体,物体就已经被抬起来了。

如果这样的数据大量进入训练集,模型学到的就不是现实世界中的物理规律,而是生成模型自身的错误。

因此,Vbot 采用的思路是让生成模型负责扩展数据,再通过运动学约束、仿真和物理校验筛选数据。

生成负责扩大规模,物理约束负责控制质量。

这两个环节缺一不可。

不过也要明确,仿真验证并不等于真实世界验证。

接触力、摩擦系数、柔性物体形变等细节,仍然需要真实数据进行校准。公开资料中也明确区分了仿真辅助标注与真实测量数据。

四、Vbot Echo:比单一生成模型更值得关注的是整条数据管线

如果说 Exo2EgoPolicy 解决的是视角转换,那么 Vbot Echo 想解决的就是数据生产问题。

从公开架构看,整条管线可以分成几个主要阶段:

1. 数据采集: 通过 Echo App 以及已有视频资源获取真实的人类操作过程。
2. 跨视角生成: 利用 Exo2EgoPolicy 将第三人称操作视频转换为目标第一人称视频。
3. 统一交互表示: 结合场景几何、任务语义、手部与物体运动、全身交互,构建统一时空 HOI 表示。
4. 运动学适配与物理验证: 根据目标机器人结构完成动作重定向,并通过仿真和质量检查筛选数据。
5. 结构化数据输出: 形成包含视频、运动轨迹、接触信息以及质量标签的训练数据。

其中 HOI,也就是 Human-Object Interaction,人和物体之间的交互,是整个系统的重要基础。

机器人学习操作任务,不能只理解人的动作,还必须理解动作与物体状态变化之间的联系。

拿起杯子和推动杯子,手部运动看起来可以非常接近,但接触方式、施力方向和任务结果完全不同。

如果模型缺乏这些交互信息,就很难真正掌握物理操作。

Vbot Echo 尝试把视频、几何、语义、运动和物理交互放进同一条处理链路。

这比单纯增加视频数量更有意义。

因为具身智能训练数据的价值,不仅取决于有多少小时的视频,还取决于其中包含多少可以被机器人有效学习的操作信息。

五、Echo App 的意义,是降低数据采集的门槛

这次发布还有一个容易被忽略的产品:Echo App。

按照 Vbot 的介绍,用户不需要穿戴专用采集设备,只需要通过手机拍摄操作过程并上传,就可以参与数据采集。

这实际上是在尝试改变具身智能的数据获取方式。

过去行业依靠机器人本体遥操作、专业采集设备或者专门建设的采集场地。

这些方法的优势是数据相对标准化,能够直接记录动作、关节状态等信息。

但缺点也很明显:设备成本、场地成本和人员成本都不低。

而手机视频的优势在于采集门槛低、设备普及率高、覆盖场景广。

如果后续的数据处理能力足够成熟,就可以让更多真实场景进入训练数据体系。

家庭里的厨房、办公室的桌面、工厂里的操作台,以及各种长尾任务,都有机会成为数据来源。

这与自动驾驶的数据发展路径有一定相似性。

自动驾驶从早期依靠有限测试车辆采集数据,逐步发展到利用规模化真实驾驶数据进行训练。

具身智能也需要找到自己的规模化数据来源。

但这里必须强调一个技术边界:

手机视频可以降低视觉经验的采集成本,却不能天然替代真实机器人执行数据。

视频中没有直接测量的关节力矩、接触力、摩擦状态等信息,仍然需要估计、仿真辅助或者真实实验补充。

更重要的是,视频生成出来的动作是否真的能帮助机器人完成任务,需要最终通过机器人本体实验验证。

六、这条路线最大的挑战,不是生成视频,而是验证数据有没有用

从研究角度看,我最关注 Exo2EgoPolicy 和 Vbot Echo 后续能否回答几个问题。

第一,生成视频与真实第一人称视频之间的差距究竟有多大?

特别是在双手遮挡、复杂物体交互、透明物体、柔性物体,以及快速运动等场景下,能否保持稳定的几何关系和动作连续性?

第二,经过运动学适配后的动作,能否真正用于不同构型机器人的训练?

一个人类操作任务,经过转换之后,能不能同时服务不同自由度、不同末端执行器的机器人?

第三,生成数据到底能给机器人带来多少实际能力提升?

这是我认为最关键的评价标准。

例如,在相同模型架构、相同真实数据规模和相同训练预算下,加入 Exo2EgoPolicy 生成数据之后,机器人在未见过的物体、环境和任务上的成功率提升了多少?

有没有降低真实数据的需求量?

有没有改善长尾任务的泛化表现?

这些指标远比生成视频的数量更有说服力。

第四,整条数据管线的实际生产效率如何?

从原始视频到最终通过质量校验的数据,需要多少计算资源、多少处理时间,以及多少人工干预?

真正的规模化生产,不只是理论上能够处理海量视频,而是能够以可接受的成本,持续生产高质量数据。

从目前提供的发布材料来看,Vbot 已经展示了较完整的技术架构和处理流程,但还需要更多公开的定量实验结果,才能判断其生成数据在真实机器人训练中的实际收益。

这是技术路线成立与工程价值被充分证明之间的区别。

七、具身智能的数据竞争,正在从采集能力走向数据生产能力

我一直觉得,具身智能行业不能简单照搬大语言模型的发展方式。

语言模型可以从海量文本中学习语言规律。

视觉模型可以从互联网图片和视频中学习视觉特征。

但机器人最终必须与物理世界发生交互。

它需要知道什么动作可以执行,什么动作会失败,以及动作如何改变真实环境。

这就决定了具身智能数据不仅要有规模,还必须具有动作可执行性和物理一致性。

Vbot 这次发布的技术路线,实际上是在尝试把互联网已有的人类操作经验,转换成具备机器人学习价值的数据资源。

这里有一个非常值得思考的变化。

过去行业讨论数据规模,主要讨论拥有多少机器人、多少遥操作人员、多少采集场地,以及积累了多少小时的真实操作数据。

但如果跨视角生成、运动学适配和物理验证逐步成熟,未来的数据竞争就不只是比谁采集得多,还要比谁能够把原本无法直接利用的数据,转化为有效训练数据。

这是一种不同的数据生产逻辑。

当然,生成数据不会让真实数据失去价值。

恰恰相反,真实机器人数据将承担更加重要的校准、监督和最终验证作用。

更合理的发展方向,是利用海量人类视频扩大任务和场景覆盖,再通过真实机器人数据建立物理约束与能力反馈。

让生成数据和真实数据形成互补,而不是相互替代。

最后

回头看整个具身智能行业,大家都在讨论机器人什么时候能够拥有类似人类的通用操作能力。

但在实现这个目标之前,还有一个更基础的问题需要解决。

人类每天都在现实世界里完成数以亿计的操作。

这些经验已经大量存在于视频之中,却长期无法被机器人直接学习。

Vbot 的 Exo2EgoPolicy 和 Echo 数据管线,尝试做的就是把这两者连接起来。

让互联网视频不再只是机器人理解世界的素材,而是逐步成为机器人学习操作世界的资源。

我觉得这是一个值得持续关注的技术方向。

它真正的价值,不在于把第三人称视频变成第一人称视频有多炫酷,也不在于能够生成多少小时的数据。

而在于这些数据最终能否让真实机器人以更低成本、更少示范、更高成功率学会新的操作技能。

具身智能的下一轮竞争,除了模型架构和机器人硬件,还会发生在谁能以更低成本,把人类经验转化为机器能力。

这才是 Vbot 这次发布最值得讨论的地方。
@Vbot维他动力 #vbot维他动力#

发布于 广东