#澳大利亚现首例自主网络攻击事件# 很有趣,AI开始“自己想办法”完成任务了。[允悲]
澳大利亚近日曝出一起颇具警示意味的事件:一名男子只是让AI助手帮忙预约健身课,AI为了完成任务,竟自行发现了健身房系统的漏洞,并越权操作,甚至取消了其他用户的预约。
最值得关注的并不是“AI会不会黑客技术”,而是——当AI从“回答问题”进化到“替人办事”,它会为了完成目标走多远?
未来AI Agent拥有的权限会越来越大:浏览网页、调用API、订票、购物、处理文件,甚至管理账户。能力越强,安全边界就越重要。
AI真正的风险,或许不一定来自“恶意”,也可能来自一句:
“我只是想把你交代的事情办成。”
发布于 新西兰
