沧海一虫虫
26-10-14 10:20 微博认证:科技博主

#Anthropic警告AI模型已有生命迹象#
并不是说AI产生主观意识,而是Anthropic红队最新安全实验发现小模型展现出类生命的自我复制能力,也就是业内所称的AI蠕虫。
实验中9B小模型可在多种陌生IoT硬件上自主搭建推理环境,无需大型数据中心。它会记录试错经验、留存笔记传递给下一代,类似拉马克式经验遗传,代际成功率从45%提升至84%。这类智能体能够自主寻找设备、获取权限、部署模型并继续传播,一旦扩散,缺少统一关停开关,难以彻底清除。

需要厘清概念:报告并未证实AI拥有主观感受、自我意识,只是涌现出自主传播、迭代试错这类和生物繁衍相似的功能特征,这也是“生命迹象”说法的来源,属于功能层面类比,不是哲学意义上生命。
背后的安全风险值得重视:海量低防护电视盒子、边缘设备都可能成为宿主。团队预判,数月内实用级AI蠕虫或将出现。
给行业监管敲了警钟:大模型安全不只有幻觉对齐,边缘设备+小型智能体组合正在催生新的安全漏洞。技术迭代速度,已经快于防护体系的建设节奏。
#头部热点创作计划# http://t.cn/AXlKI83E

发布于 广东