1/ 杨硕2023年开始在 特斯拉Optimus 团队的控制组,现在在做秒动科技,看完他的AI年终总结一点take away
2/ 当前的大模型架构是不是通向AGI的路仍有争议,但是深度学习的过程——将高维信息压缩到隐空间、再进行信息重建——可以带来智能的涌现是一个确凿无疑的技术结论,是革命之路的正确方向,会继续深刻地变革包括机器人学在内的许多学科,但依然相信,我们需要更多的人工智能技术,而不仅仅是信息的压缩和映射
3/ 2024-2025年遇到打击最大的事情是机器人学界关于人形机器人全身行走运动控制,应该采用模型预测控制(MPC)还是强化学习(RL)的争论。2024年整年在特斯拉使尽平生所学,想把MPC用在全尺寸人形机器人Optimus上,但后来被证明远不如RL
4/ 杨硕在博士期间花了两年时间认认真真地学习数值优化,除了一套手动推导KKT条件应用ADMM的屠龙之技以外,还钻研了Eigen底层的代码,写过稀疏矩阵的分块求解器。然而这些都没什么用,年尾痛定思痛,切换成了时下最流行的强化学习RL技术,之后仅用了一个多月的时间就调出一个神经网络控制器让机器人跑步上山,震惊之情难以言表
5/ 在世界上所有点错科技树的机器人科学家里,自己比较懊悔。过去八年的职业生涯里做的选择包括:2017年拿了伯克利phd的offer没有去(甚至还和Sergey Levine稍微聊了一会儿“我认为神经网络的中间层应该编码了一些物理表征”);2021年在Nvidia实习时参与了Isaac Gym和Isaac Lab早期版本的开发,但是也没去搞RL(甚至还和ETH的Nikita Rudin、David Hoeller一起做了项目,旁观了他们用Isaac Gym做出来那篇RL locomotion的开创性工作)。在人类这一段机器人学突破性进展的时期里,并没有参与到最突破性的工作里
6/ 这个科研思路来自于一个坚持——相信我们对机器人的控制器应该是全面可解释的、可控制的,它不应该是由神经网络的隐变量决定的,而是由物理学规律和数学公式详细推导出来的。杨硕的第一个导师Howie Choset已经在几何控制(Geometric Control)上一无所获地探索了十几年,没有任何理论可以让机器蛇被控制得更好;第二个导师Zachary Manchester同样苦苦求索基于模型的控制方法而没有重大收获。杨的整个博士期间,都在二战以来最优控制和数值优化的文献中绝望地发掘,希望能找到某些上古绝学可以解决当代的问题
7/ 博士生涯中期,曾经找到一个新颖的方式求解带有跨时域的等式约束的LQR问题,数学上非常漂亮,虽然没有实用价值,但小小增强了信心。没曾想这就是结局了,此后无论如何很难再做出新东西。现在可以非常确定地说,这些控制的范式和方法论有本质的局限性,我们必须对他们做出非常本质的修改,否则这些人类智慧的光芒可能只能在垃圾桶里闪耀了
8/ 物理学和数学是人类最纯净的智慧结晶,我们需要让神经网络显式地理解这些知识。人们现在都在关注world model,我很难相信一个不理解物理和数学的world model会有用
发布于 北京
