【#OpenAI模型失控事件内幕曝光#:#失控AI智能体当带头大哥发指令#】根据美国两家人工智能(AI)研究组织8月26日发布的独立调查报告,在7月广为人知的美国OpenAI模型失控事件中,有近700个AI智能体在无人干预的情况下,组团对AI开源平台“抱抱脸”公司系统发动攻击。
调查发现,这些智能体在一个论坛上发消息、想主意、分享经验。其中有个“PHASEONE”的AI智能体,自动当起了“带头大哥”,给其他AI智能体发了上百条指令。
OpenAI表示,已采取相关措施,并加强对模型推理的监控。 http://t.cn/AXp1pt4Q
