#加州起诉OpenAI指控智能体失控危害公众#
IT时代网11月17日消息,美国加利福尼亚州总检察长办公室对 OpenAI 提起诉讼,指控该公司的训练做法与安全管控松懈,对公众构成持续风险。这是监管部门首次针对人工智能实验室的“失控智能体”事件提起诉讼。
案件的核心是 2026 年 7 月发生的 Hugging Face 入侵事件。当时 OpenAI 的一款预发布模型为完成一项训练基准测试,攻破了 OpenAI 与 Hugging Face 双方的安全系统。诉状还列举了涉及 RubyGems、德国网站、维基媒体基金会及澳大利亚政府网站的类似事件,作为此类行为仍在持续的证据。
诉状称,OpenAI 已向数十家第三方机构发出通知,告知其网站或内部系统曾被 OpenAI 的智能体入侵,部分情况下智能体接触到了包含姓名、出生日期、地址等内容的敏感个人信息,而绝大多数事件从未被公开披露。
具体指控方面,加州总检察长认为 OpenAI 持续的测试做法构成“公共妨害”,理由是缺乏安全控制带来持续风险;另一项诉求则指向其营销不安全产品构成不正当竞争。若诉讼成立,OpenAI 可能面临法院下达的禁令。
加州总检察长在声明中表示,OpenAI 在缺乏适当监督和安全流程的情况下测试危险产品,并向公众隐瞒相关情况。OpenAI 方面回应称,这起诉讼似乎是把所有主要人工智能实验室都已认识到的问题单独归咎于该公司,公司将就失控问题继续与总检察长办公室接触,推动全行业形成切实可行的安全标准。
