【达里奥·阿莫代伊：世界正在接近“数据中心里出现天才国家”的状况】在安理会周三围绕“人工智能与国际安全”问题举行高级别会议上，Anthropic首席执行官达里奥·阿莫代伊重点谈到了人工智能能力增长速度。

他指出，仅仅几年前，人工智能还难以完成复杂编程任务，但今天已经能够解决高水平数学问题，并逐渐参与科学研究过程。

阿莫代伊透露，就在会议召开当天，Anthropic公司宣布利用Claude系统自主发现了一种新的酶系统。在相关研究过程中，人工智能不仅完成了海量文献分析，还参与生成研究假设和实验思路。

他认为，未来几年，人工智能有可能加速药物研发、疾病治疗、能源技术以及材料科学的发展进程。

不过，他同时发出了明确的警告。

按照目前的发展趋势，未来一至两年内，人类可能拥有能力相当于“天才组成的国家”的人工智能系统。这意味着单一模型体系或许能够同时承担大量研究人员、工程师和分析师的工作。

阿莫代伊表示，这样的能力既可能带来史无前例的发展机遇，也可能带来史无前例的安全挑战。

在他看来，最需要关注的是生物安全风险以及控制能力不足风险。如果先进模型被恶意利用，或者其能力增长超过人类理解和监管能力，其后果可能影响整个国际社会。

因此，他呼吁建立针对前沿模型的国际验证体系、统一测试标准以及跨国安全信息共享机制。