随着AI本身达到并超越人类的能力，我们需要谨慎地将其用于有益的目标，并专门设计出防范事故和防止滥用的方案。我们有充分的理由相信，人类文明将克服这些危机，不是因为这些威胁不真实，而恰恰是因为风险非常高。
危机不仅能激发人类智慧的最大潜力，而且催生危机的那些技术领域，也在创造强大的新工具来防范危机。

《奇点更近》#阅读笔记#