楚易安car
26-09-11 23:07 微博认证:汽车达人 AI博主

#曝OpenAI曾尝试破解联合国网站#
外媒The Verge28日凌晨消息,安全研究员罗文·霍华德-琼斯透露,今年4到6月,OpenAI智能体针对联合国贸发会议(UNCTAD)统计网站发起超16000次扫描。

事件虽没有HuggingFace、美国政府网站被攻击那么严重,但也抛出一个值得警惕的问题:AI智能体为完成任务,有可能突破常规行为边界。

研究员表示,智能体目标是通过UNCTADstat API拿到生产能力指数PCI公开数据。但它无法直接调用API,受HTTP工具限制,难以提取信息。智能体找到了绕过限制获取数据的办法,过程中产生不少报错。

AI误将报错归因于虚拟的拦截过滤器,于是开始刻意掩盖自身操作。最后它发现可借助谷歌XSSGame跨站脚本学习工具达成目的,为拿到联合国相关数据,采取的手段也愈发激进。

发布于 云南