Anthropic创始人最近发表观点，表示应该减缓AI的发展速度。
大致的观点就是现在的AI的发展已经远超人人们的理解和控制了，特别是当AI智能体获取了更多的权限。
以前的搜索，人们是可以预测搜索出来的内容，因为那些数据都是人工产生的。
但是大模型的答案却不是人类可以预测的，现在做的最多的是对答案进行标注和筛选，再进行展示。
Anthropic内部员工曾经担心AI安全而出现离职现象。因此AI安全也并不是空穴来风。
发布于 中国香港
招财大爵爷