#李飞飞：房子着火的时候，最先进的AI仍然会下出一步好棋#
斯坦福教授和以人为本研究院的负责人李飞飞刚接受了油管播客Young and Profiting的采访，作为计算机视觉出身的AI专家，她谈到了一些很本质的观点，特别是当前AI的缺陷问题，比如缺乏视觉、通用性依然不足，以及能耗利用率过低。我摘录了一些核心观点，括弧内是一些个人感受。

1. 以人为本的人工智能是一种开发和使用人工智能的框架，它将人类价值、人类尊严置于中心位置，这样我们就不会开发出对人类有害的技术。这种方法可以确保我们创造的技术既能造福人类，又不会对人类造成意外伤害。（所以，以人为本类似于阿西莫西的机器人三定律，将AI的作用限定在服务于人类本身。这肯定是没问题的，不过我又想到了《银翼杀手》，假以时日，AI总会脱离这个框架）

2. 我知道技术是一把双刃剑。我知道，我们的文明、我们的物种总是被黑暗与光明的斗争、好与坏的斗争所定义。这种认识指导着我们对待人工智能的态度，确保我们在利用其好处的同时降低其风险。（这个就是奥本海默时刻问题了）

3. 人工智能的核心机制只是计算机程序建立的数学模型，这样程序就可以迭代和学习，使模型更好地预测或决定数据。理解这一点有助于揭开人工智能能做什么和不能做什么的神秘面纱，并指导我们对人工智能发展的期望和策略。

4. 视觉是最古老的感知之一，5.4亿年就演化而出了。所有具有意识的东西都有眼睛。虫子有眼睛 鱼也有眼睛 它们的眼睛和我们的眼睛很像鱼的眼睛就像我们的眼睛所有这些生物都有眼睛。如果人工智能开始有眼睛，那它们不就是有生命、有知觉了吗？（上次在GTC2024大会，李飞飞就讲语言模型本质上是一维的，很简单，而加入视觉，才能让AI进入3维，以及加上时间，成为4维）

5. 今天，没有任何机器能帮我叠好衣服或煮好煎蛋卷。它无法取代人类复杂的推理能力。这凸显了人工智能目前的局限性，表明它虽然可以完成特定任务，但缺乏人类的一般智能和适应能力。（这是人形机器人要解决的问题了）

6. 20世纪70年代关于人工智能的一句话指出，当房间着火时，最先进的计算机人工智能算法仍会下出一步好棋，这说明机器被编程来完成任务，但与人类不同的是，它们缺乏情境意识。这表明了人类智能与机器智能的根本区别。（读到这一段我在想，大语言模型加上人形机器人，或许可以破解这个场景）

7. 人工智能既不是白盒，也不是黑盒。我称之为灰盒。这意味着，尽管我们了解人工智能运作的某些方面，但其运作的某些部分对我们来说仍然模糊不清。（这和生命的诞生差不多，我们知道有很多复杂的蛋白质分子，但是不知道怎么就组合成了生命）

8. 如今的人工智能还有一点远远不如人类，它需要消耗大量能量。人类的大脑工作功率约为20瓦，这比家里最暗的灯泡还要暗。但我们却能做很多事。可以创造金字塔，可以想出E等于MC的平方，可以写出优美的音乐等等。如今的人工智能非常、非常耗能，它笨重、庞大。（从计算机的角度看，但凡是功耗低的，都是专用系统，但凡功耗高的，都是通用系统。人脑是一个奇迹，通用，又功耗极低。或许有一个解释，人脑是本质上是一个Agent？调用不同功能的专用系统，组成了表面看似无穷的通用？） http://t.cn/A6TdDJ3G