Meta首席人工智能官Alexandr Wang解释了为什么人工智能模型能够很好地处理简单的查询，但在尝试与它们协作时却“一落千丈”：Wang创立了Scale AI，该公司是人工智能行业领先模型训练数据背后的公司之一，他现在领导着Meta超级智能实验室。他开篇就坦诚地承认了业内大多数人避而不谈的事实：“我的意思是，虽然没人会公开承认，但这确实是我们目前面临的现实。” 首先，他谈到了哪些方面有效。对于简单的、一次性的问题，模型表现良好：“它们确实很好用。这有点像谷歌的使用场景，你提出一个查询，然后查看答案。” 提问、阅读、完成。这就是搜索引擎的交互方式，目前的模型能够很好地处理这种情况。然后，他描述了当你需要处理更复杂的问题时会发生什么：“当你真正需要与模型协作，处理更复杂的任务时，它们的表现就会急剧下降。” 这种下降是突然的。同一个能够胜任单个查询的系统，一旦尝试与它协作处理任何复杂的任务，就会崩溃。王解释了原因。这些模型没有意识到自身知识的局限性：“现在的模型甚至不知道自己不知道什么。所以它们只能胡说八道。”这种缺陷在单次查询中尚可接受。但在长时间的交互中，它却决定了整个体验：“通常情况下，你和模型进行多轮交互，感觉就像在和一台胡说八道的机器，它在统计学上正确的可能性大于错误的可能性。但它不像是一个拥有心智理论的实体，你与之交互。”这就解释了问题所在。一个仅仅“在统计学上正确的可能性大于错误的可能性”的系统或许可以回答一个问题。但复杂的工作意味着多轮交互，而每一轮都依赖于前一轮。在这样长时间的交互中，系统无法展现出一致的理解，也无法标记自身的不确定性。#微博视频精选大赏##热点聚焦# http://t.cn/AXlVMr2A