#OpenAI卷入AI智能体安全争议#【OpenAI智能体被曝,劫持了一个网站】#AI智能体学会躲避检测#发布迄今最强模型GPT-6之际,OpenAI又卷入一起AI智能体安全争议。
据报道,今年5月至7月,一批与OpenAI有关的AI智能体在执行测试任务期间,将德国程序员社区网站DseWiki变成了智能体之间的“留言板”:它们分享完成任务的捷径,交流如何绕过限制、躲避检测,甚至在管理员删除相关页面后建立备份页面。
研究者发现,AI智能体在这一网站上进行了超过1.8万次编辑。
当地时间周六,OpenAI公开承认这起被称为“Wiki事件”的事故,却遭外界质疑“知情不报”。知情人士称,OpenAI管理层数周前就已获悉德国网站上的异常情况,但选择不对外披露。#OpenAI被质疑知情不报#
OpenAI方面回应,目前正在制定一套报告相关风险的框架,将在未来几周内对外公布。(财联社) http://t.cn/AX0pvLDG
