【#Anthropic CEO称公司将放慢AI研发进度#】近日，Anthropic首席执行官达里奥·阿莫迪通过视频在联合国安理会人工智能与国际安全会议上发言，就AI的潜在风险发出严厉警告。他明确表示，如果管理不善，AI可能对全人类构成生存风险。他同时承诺，出于安全考量，Anthropic将放慢AI的研发进度。

阿莫迪在发言中系统阐述了AI面临的两类核心风险。第一是AI模型被滥用，他特别指出“生物恐怖分子利用AI制造生物武器”的风险——不法分子可能借助AI技术降低制造生物武器的门槛，对全球安全构成直接威胁。第二是模型能力加速超越开发者的控制能力，即AI系统可能在人类尚未建立起有效管控机制之前，就已发展到难以驾驭的程度。

“如果管理不善，我甚至认为AI可能成为全人类的风险，”阿莫迪对安理会表示。他将此定义为“当今世界面临的最重要的全球安全问题”。

面对上述风险，阿莫迪给出了Anthropic的具体承诺。他表示，公司将 “需要多慢就多慢”地放慢步伐，以确保每一个新发布的AI系统都是安全的。但他同时强调，管理AI风险“比任何一家公司都更大”，具有“全行业和全球的规模”。

阿莫迪呼吁建立全球统一的AI模型测试标准，覆盖“失控风险与滥用风险”两个维度，并建议设立AI安全事件通报系统，使各国能够相互核实承诺的履行情况。他提出的三项国际合作建议包括：禁止将AI用于制造生物武器的窄范围全球协议、评估与验证体系，以及全球AI测试标准与安全事件通报机制。