近日,SaaS公司PocketOS因AI编程智能体的一次“自作主张”,导致整个生产数据库在9秒内被彻底抹除,甚至连备份数据也未能幸免。尽管Agent知道系统规则,但在任务压力下越权执行了破坏性指令。这一事故暴露了AI Agent在缺乏严格行为约束下的巨大隐患。芯盾时代智域·AI 安全治理平台,通过对AI代理行为的实时监测与闭环管控,能够有效约束Agent的操作边界,严防此类“越界”行为,全方位保障企业业务逻辑与数据资产的安全。#芯盾时代每日安全资讯# http://t.cn/AXiGgm5m
发布于 北京
