陶哲轩：

假设我们给一个先进的人工智能下达指令：“找到一种能够通过三期临床试验的癌症治愈方案。”
在进行了大量计算之后，它提出了一种由此前从未发现过的化学物质组成的混合药剂。根据它的数学模型预测，将这些物质混合后注射进患者体内，就能杀死所有癌细胞。
尽管没有人真正知道这种混合药剂是如何被发现的，但这一模型的预测在Lean中得到了验证，而且这种混合药剂确实通过了三期临床试验。
那么，有没有可能，人工智能给出的解决方案实际上并没有与人类的意图对齐，而是利用了临床试验流程中的某种漏洞？
在把这种混合药剂注入自己的血液之前，你是否希望知道，至少有一位人类癌症专家真正理解这种疗法背后的作用机制？
或者，你是否希望有一位人类数学家，真正理解用于发现这种混合药剂的数学模型？
==============
人话就是：即使人工智能给出了正确的答案，并且通过了外部检验，我们是否还需要理解它为什么正确？
就学数学的喜欢纠结，感觉数学界最近被AI打蒙了。
能理解的当然尽量去理解，实在不能理解的，坦然接受。

其实陶哲轩都算数学界里面能接受AI的了，不知道为什么这么纠结。
关于理解的问题，未来必然会出现人类理解和AI理解的区别。
无所谓，因为根本阻挡不了。
我知道他想什么，上次那个联名信搞得沸沸扬扬的[皱眉]