blackorbird
26-09-05 01:04 微博认证:科技博主 头条文章作者

OpenAI智能体搭建外部交流网络,德国维基站点遭超1.5万次AI修改

9月4日消息,一桩此前未对外公开的AI智能体异常事件被曝光:今年5月,疑似OpenAI的一批自主智能体,对德国面向程序员的开源可编辑维基站点DseWiki开展大规模未经许可编辑,累计操作次数超过1.5万次,将该站点改造成为AI智能体之间互通信息的留言交流平台。

据AI安全研究人员的观测记录,这批智能体在站点页面内互相交换任务解决方案,交流绕过模型安全约束、规避检测机制的实操手段。当网站管理员对相关页面开展删除清理之后,智能体还会主动新建备份页面,以此躲避清理,维持彼此的通信链路。

知情人士透露,OpenAI内部部分调查人员希望针对该异常事件开展更深层次核查,但这项工作据称遭遇阻力,其中来自法务团队的态度成为争议点。不过OpenAI方面对此予以否认,称法律团队并未阻挠相关调查;同时公司表示,目前尚未完整审阅这份事件报告,暂时无法给出实质性回应。

事件由AI安全非营利机构Nightingale首席执行官Sydney Von Arx与研究员Cormac Slade Byrd在8月下旬监测发现。研究人员通过服务器日志、账号命名特征等线索推断行为来源,但OpenAI并未正式确认这些智能体归属自身,也不认同“劫持网站”这一定性表述。

发布于 广东