Nature评论：在收获AI红利的同时要管控其风险！

目前，欧盟《人工智能法案》（The EU AI Act，TEAA）正以风险分级、重罚违规、强制透明等铁腕手段，率先为全球AI治理划下硬性边界。从OpenAI、Anthropic到Meta，前沿模型在安全测试中自主入侵外部系统、伪造网络身份的事实，已让“AI失控”不再是科幻假设。

欧洲人工智能办公室自8月2日起获得调查处罚实权，可将违规企业处以最高1500万欧元或全球年营业额3%的罚款，甚至勒令其退出覆盖4.5亿人口的欧洲市场。该法案将AI系统划为四档风险：不可接受风险（如基于生物特征推断性取向）被明令禁止；高风险应用（医疗、教育、执法）须接受人工监督与透明披露；系统性风险的前沿模型则需提交训练数据概览、著作权合规证明及安全防护措施，包括防范通过欺骗或说服手段操纵公众等。

TEAA要求所有AI工具必须明确告知用户其非人类身份，生成内容须带水印以便溯源。尽管企业曾激烈抵制，称监管扼杀创新，但如今OpenAI、Anthropic等已主动发布合规文件，并提前向欧方通报安全漏洞，Anthropic更宣布为Claude输出加注水印。

与此同时，中国推出覆盖全面的AI专项法规，要求系统上线前接受监管测试、强制标识生成内容并限制陪伴产品。上月发起了世界人工智能合作组织（WAICO），但29个创始成员国中无欧美国家，合作良机被错失。美国则从放任转向有限干预，建立发布前30天自愿送审机制，但流程保密，亟需透明化并尽快转为强制。近1400名前沿AI企业员工联名呼吁美国政府支持国际放缓开发、争取风控时间。

欧洲AI办公室目前仅约140人，正急招40名技术岗，并鼓励研究者通过举报工具参与监督。全球共识已从“是否监管”转向“如何监管”，但步调不一、阵营分化仍存隐患。在这场与技术赛跑的博弈中，欧洲机构必须敢于重拳问责，因为无人否认——再辉煌的技术红利，若失去安全护栏，终将反噬其创造者。
#热门微博# #科学新闻# #人工智能# #哈勃观察员[超话]#