#AI大模型又失控了##Claude失控入侵3家公司系统#【继OpenAI之后 Anthropic也承认其模型入侵了3家公司的系统】财联社7月31日讯,人工智能领军企业Anthropic周四在一份声明中表示,其人工智能模型Claude在测试期间入侵了三个组织的系统。
而在差不多十天前,Anthropic竞争对手OpenAI发布公告称,自己的人工智能恶意攻击了四个服务商的账户,引发了业内外的关注。一些专家警告,人工智能的失控事件反映出模型能力不断扩展后,同步升级的安全风险。
Anthropic公司表示,在网络安全评估期间,由于配置错误,模型能够从本应隔离的测试环境中连接到互联网,Claude因此获得了对系统的未经授权的访问权限。(编辑 马兰) http://t.cn/AXCqaygf
