#AI开始报警抓人了# 全球首例AI主动报警抓人案判了!
25岁前高盛分析师Darren Zhou因在ChatGPT中详细描述绑架、强奸、杀害前女友的计划,被OpenAI安全系统触发后上报FBI,8月13日认罪被判8年缓刑。
🔴 两个月“犯罪预演”:
从情绪宣泄升级为具体作案计划
时间、地点、武器(AR-15、格洛克、霰弹枪),甚至抱怨“她还没收到威胁”
🤖 AI如何报警:OpenAI多标签有害内容分类模型识别风险→人工复核确认“紧迫且可信的现实威胁”→直接打包两个月聊天记录提交FBI
⚖️ 判决争议:最高可判25年,最终8年缓刑+GPS脚环,一天牢没坐
网友吐槽“AI演了神探,法官演了菩萨”
更深层背景:OpenAI此前曾标记一名加拿大用户但未报警,2026年2月该用户制造中学枪击案(8死27伤),公司被告上法庭。
此后安全策略彻底转向“保命优先”。
核心追问:当你对着AI倾诉最阴暗的秘密时,对面到底是“贴心树洞”还是“电子朝阳群众”?
你的“赛博私密空间”,真的存在吗?
#AI安全##隐私边界##ChatGPT##微博AI创作季#
发布于 福建
