【今日份硬核科普已就位，AI世界#源来如此#奇妙】
@微博AI 联合清华大学权威团队@AI光影社 ，带你了解人工智能前沿知识！[不愧是你]

不用人类操心，AI 自己搞定对齐难题[送花花][送花花]

一个相当棘手的问题是：当AI模型的能力超过人类时，我们如何对它进行监督，使其依然符合人类的价值判断？

4 月 14 日，Anthropic 提出了一种用AI来对齐AI的新方法。它们首先用一些较弱的模型来模拟人类的弱监督信号，再通过 9 个 Claude 模型组成研究团队，去寻找基于这些弱信号的 AI 对齐方法。

结果显示，这套自动化研究系统几乎可以复现强信号的监督结果，实现弱模型对强模型的监督学习。