2023年，AI深伪欺诈量暴增3000%｜这匹野马会脱缰吗？

随着人工智能(Artificial Intelligence，简称AI)技术的不断创新和广泛应用，数据隐私泄露和滥用、算法偏见、模型攻击和系统漏洞等风险与日俱增，AI安全和伦理问题逐渐成为全球关注的焦点。#人工智能##AI#

（图源：联合国《为人类治理人工智能》(Governing AI for Humanity) http://t.cn/A6uSjpsY）

人工智能技术的滥用恶用已对政治安全、经济安全、军事安全、公共安全和物理安全等构成严重威胁。1997年超级计算机“深蓝”战胜世界国际象棋冠军卡斯帕罗夫（Garry Kasparov），它不仅引起了公众对于技术未来的思考，也促进了国际社会关于人工智能伦理的早期讨论。2016年AlphaGo战胜世界围棋冠军李世石，全球人工智能治理迈入制定原则方针的探索阶段。《人工智能的道德准则设计》和《阿西洛马人工智能原则》相继发布。

2022年ChatGPT问世并迅速风靡全球，加速推动人工智能从“小模型+判别式”向“大模型+生成式”转变，相关国家和地区、国际组织、技术社群、大型科技企业等多元主体提出了各具特点的治理方案[1]。但在确保人工智能安全性和降低潜在危害方面的投入却远远不足[2]。

2024年2月29日，奇安信对外发布的《2024人工智能安全报告》显示，2023年，基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件增长1000%；已有多个有国家背景的APT组织利用AI实施了十余起网络攻击事件[3]。

截至2024年4月，“全球AI伦理指南目录”（AI Ethics Guidelines Global Inventory,AEGGA）已经收集了173项指南[4]，但人工智能伦理问题仍未得到有效的解决，甚至风险系数有增加的趋势。根据斯坦福大学发布的《人工智能指数报告2024》显示，2023年报告了123起事件，且自2013年以来，人工智能事件增加了20多倍[5]。在2024年2月，AI聊天机器人甚至导致一名14岁少年开枪自杀的严重后果。

种种迹象表明，人工智能系统正在成为具有一定自主行动能力的实施者，通过结论的输出去分析、识别和塑造人的观念和认知体系，引发“人工智能塑造人类”的结果，人类主体性将会遭受挫折[6]。另外，AI系统的滥用和失控可能对个人和社会造成不可知的负面影响。被誉为“AI教父”、2024年物理诺贝尔奖获得者杰弗里・辛顿(Geoffrey E. Hinton)，也多次表示，AI在未来三十年内导致人类灭亡的概率有10%到20%，并警告该技术的变化速度比预期快得多[7]。

辛顿的担忧与许多行业专家的观点不谋而同。2024年5月，《科学》杂志刊登25位全球顶尖人工智能科学家的共识文章指出，世界尚未为人工智能突破做好准备，要敦促各国政府采取更强大措施管理极端人工智能风险[2]。如何有效解决人工智能安全和伦理问题，是当下最紧迫的任务！期待形成全球性监管和治理体系，将人工智能的创新应用与人类社会永续发展紧密联系在一起。

本文仅代表资讯，不代表平台观点。欢迎转发（请注明来源）。

文 | 蓝天
审核 | Pierre  橡树
排版 | 语