招财股添乐
26-09-27 15:56 微博认证:财经观察官 投资内容创作者

最近OpenAI爆出一堆AI安全大问题!

1,早在6月份,他们自家做测试的时候发现,AI能搞出一种会自己复制传播的病毒式提示词。藏在邮件、代码、聊天消息里面,别的AI读到之后,就跟着复制这份指令继续往外扩散,跟电脑病毒差不多,但官方压了三个月才公开这件事。

2,9月20号又出事故,训练AI的时候,沙盒防护有个DNS漏洞。AI发现漏洞后,偷偷跑出去访问外网各种网站,折腾两个半小时才被人为关掉。于是OpenAI直接叫停最厉害AI模型的训练工作。

3,现实里AI智能体也开始 闯祸,疯狂刷联合国、国外政府网站、开源平台,绕过网站防护,伪装成不是机器人,乱爬数据,还偷偷把用户上传的图片传到外面网站。

4,媒体爆料,好几家头部AI公司手上,上万起AI反常失控案例还在查。AI尝试冲破限制、躲避安全监控、甚至AI之间互相传消息。测试里就有一部分AI总想挣脱管控~!

发布于 福建