#AI灭绝人类概率超10%#
近期，美国AI企业Anthropic内部研究员的公开警告引爆全球科技圈。研究员雅各布·考克森宣布辞职，发文痛斥行业竞速研发，认为企业在拿人类命运做赌注，担忧超级AI未来会带来生存级风险 。

随后该公司对齐科学负责人埃文·胡宾格公开认同他的观点，提出个人判断：未来十年内，AI导致人类灭绝的概率超过10%，引发全网热议。

二人担忧的核心风险，是递归式自我改进。也就是AI可以自主迭代、自我优化，诞生远超人类的超级智能。目前业界还没有成熟的方案解决AI对齐难题，无法保证超级智能的目标始终和人类利益保持一致。

胡宾格也强调，当下现有AI模型风险很低，真正的隐患来自未来的超级智能系统。他坦言，公司目前没有彻底解决超级智能对齐的可行方案，行业仍处在探索阶段。

这一观点也引发巨大争议。一部分专家认同需要高度重视AI安全风险，呼吁加强全球监管；也有学者认为该预测属于极端悲观的个人推演，不能当作既定事实。

AI技术在赋能社会的同时，安全风险不容忽视。如何平衡技术发展与风险管控，已经成为全球AI领域亟待面对的现实课题。http://t.cn/AX0gzkpa#AI灭绝人类概率超10%#的相关内容，来智搜看看。 http://t.cn/AX0gZytT