猫叔在硅谷
26-08-20 11:58 微博认证:视频博主

前高盛分析师向ChatGPT详述"绑架强奸杀害前女友"计划,被OpenAI举报至FBI后获缓刑

25岁的达伦·周(Darren Zhou)今年3月与交往六个月的21岁前女友分手后,开始在ChatGPT上倾诉,对话内容逐渐演变为详细的暴力威胁。

他曾对聊天机器人写道"我这个月底之前就要杀了她"、"如果我得不到她,那谁也别想得到她",还详细描述了对方的兴趣爱好、常去地点、作息规律,并声称自己"制定了一整套计划"、购买了AR-15步枪,甚至向对方发送过匿名短信,附带其精确实时位置及枪支、束线带、乳胶手套的照片。

据OpenAI政策,公司设有专门审核团队,在检测到用户可能对他人造成伤害时进行人工复核,情节严重时会向执法部门举报——周的对话正是被判定为"可信威胁"后,由OpenAI主动上报FBI,联邦探员随后将约两个月的聊天记录移交给佛罗里达州棕榈滩县警方,周于5月被捕。案发时周正就职于高盛西棕榈滩办公室,任资产与财富管理部门金融分析师,高盛6月获悉此事后将其解雇。

周被控三项重罪——加重跟踪、发送死亡威胁及非法使用通讯设备实施犯罪,最高可判25年监禁;他8月13日就全部三项指控认罪,最终在与检方的认罪协议下,法官斯科特·萨斯考尔(Scott Suskauer)"暂缓定罪"(withheld adjudication,即认罪但不留下正式重罪案底),仅判处8年缓刑,其中前两年需佩戴电子脚环监控,并须完成施暴者干预项目、接受心理健康评估,禁止持有枪支、接触酒精毒品及联系前女友。

法官表示,自己接受这一协议的重要原因是"前女友本人表示支持";周的辩护律师史蒂文·贝尔则称这是"极其公平公正的结果",强调周本科以优等成绩毕业于东北大学、此前无犯罪记录,"他经历了一段非常艰难的心理健康危机,如今状态已经好转很多",并称尽管信息中提及枪支,但周实际上从未真正拥有过枪支。

前女友在被分手后曾持续遭对方骚扰,她告诉调查人员,自己此前之所以没有报警,是因为"虽然害怕,但依然在乎他,也不想让他的行为进一步升级";正是她保存下的一系列匿名威胁短信截图,最终与ChatGPT聊天记录被警方交叉比对,认定"一个处于她这种处境的理性人,会合理相信周确有能力对其本人或家人实施人身伤害或致命威胁"。

这起案件被视为AI公司主动介入现实犯罪预防的罕见案例——OpenAI在此案中未公开ChatGPT本身对周的具体回复内容,但案件也引发了新一轮关于AI聊天记录隐私边界、以及"AI精神病"(AI psychosis,指聊天机器人可能强化用户偏执或强迫性思维)现象的公众讨论。

对比同期被曝出的加拿大不列颠哥伦比亚省"汤布勒岭"枪击案——凶手此前也曾在聊天记录中流露作案迹象,却未被平台及时上报——这起案件的处理方式,也让"AI公司究竟该在何种情况下主动向警方示警"这一议题,进一步成为舆论焦点。#人工智能#

发布于 美国