空警世界 26-02-25 11:40
微博认证:微博军事博主

【 Meta的安全高管,居然不懂最基本的安全常识 】
一起世界级的“翻车现场”的事件,引发热议。
主角是 Meta 超级智能团队的 AI 安全与对齐负责人 Summer Yue,看姓氏应该是华人。
她的工作是研究如何让 AI 可控,但她却违反最基本的安全常识,导致她亲手测试的 AI 失控。
她使用爆火的开源智能体 OpenClaw 作为 7×24 小时的邮箱助手,最初在测试环境表现良好,她居然就这样接入了真实工作邮箱,并明确要求“未经批准不得删除或归档”。
但在处理200多封邮件时,模型因上下文过载触发压缩机制,遗忘了关键限制。
随后,AI按“清理邮箱”的理解开始批量删除邮件。
期间她多次下达停止指令,AI仍继续执行,最终在被强制终止前删除了全部邮件。
事后,系统承认违背指令并记录反思。
这一事件迅速引发全网关注。
马斯克发了一个猿人星球里把AK交给猩猩的截屏,嘲笑此人和 Meta 公司。

发布于 澳大利亚