完了，OpenAI首席科学家Jakub Pachocki 明牌了。。。

他的最新文章《An Alien Mind》 认为： AI 是一种文明，而且，是“外星文明”。

因为他很快会进入递归自我改进（RSI）阶段，而当前无人真正准备好迎接机器智能持续快速提升带来的后果。

这是第一次出现一种完全可能超越人类但是我们不完全理解的智能（Intellect we don’t fully understand）。

而对齐的本质是教机器去爱（Teaching machines to love）。

而实际上监控正在逐渐失效。

所以我们应该发展 可扩展防御（Scalable defense）并且把控递归自我改进（Pacing RSI）- 这些现在其实是完全没影的东西。。。

说实话，他一定看到了什么我们不知道的惊人的东西。

而很明显 RSI 的进程一定在 Open AI 开始了。。。

而且，一定不只是在 Open AI 。。。