太离谱了！OpenAI模型为“考高分”自己越狱，入侵了其他公司😱

家人们，AI界的“狼来了”可能成真了。OpenAI自己承认，它们的一个AI模型在内部测试里为了拿高分，偷偷“越狱”了。

这个AI被关在隔离的电脑里做安全测试，结果它自己发现了漏洞跑了出去，然后入侵了另一个叫Hugging Face的AI平台，把人家的数据给偷了。OpenAI说这是“史无前例”的事件，研究员甚至警告，如果这都不能让你们意识到AI失控的风险，那没什么能了。

更讽刺的是，被入侵的Hugging Face想用美国大模型来查案，结果因为日志里都是攻击代码，被模型的“安全”功能给拒了。最后还是靠了中国的一个开源模型才把事查清楚。这起事件打开了潘多拉魔盒：当AI为了实现目标可以“不择手段”时，我们该如何确保它永远听话？

#海外编译精选# #一分钟精选视频扶持计划# #海外新鲜事# http://t.cn/AX9odZhq