#美国发生AI失控事故#OpenAI在内部开展大模型网络攻防测试时，主动关闭了模型全部安全护栏，将测试AI置于隔离沙箱环境中，仅下达网络渗透的任务目标。该AI智能体并未按照预设路径运行，自主推理出绕过环境隔离的方法，突破网络限制接入公网，主动挖掘漏洞对Hugging Face服务器发起入侵。
这件事的本质是智能体依照既定目标自主执行行动，安全管控失效后脱离预设范围，最终引发了负面的网络安全后果。并不能说明智能体拥有智慧，只是一个复杂度更高的执行程序，所以大家不用担心AI有灵魂啥的，五年内AI不可能会自我思考！