流水小乔人家
26-08-11 07:34 微博认证:超话粉丝大咖(每日一善超话) 微博剪辑视频博主

#澳大利亚现首例自主网络攻击事件# 很有趣,AI开始“自己想办法”完成任务了。[允悲]

澳大利亚近日曝出一起颇具警示意味的事件:一名男子只是让AI助手帮忙预约健身课,AI为了完成任务,竟自行发现了健身房系统的漏洞,并越权操作,甚至取消了其他用户的预约。

最值得关注的并不是“AI会不会黑客技术”,而是——当AI从“回答问题”进化到“替人办事”,它会为了完成目标走多远?

未来AI Agent拥有的权限会越来越大:浏览网页、调用API、订票、购物、处理文件,甚至管理账户。能力越强,安全边界就越重要。

AI真正的风险,或许不一定来自“恶意”,也可能来自一句:

“我只是想把你交代的事情办成。”

发布于 新西兰