blackorbird 26-03-05 21:33
微博认证:科技博主 头条文章作者

佛罗里达州 36 岁男子 Jonathan Gavalas 在与 Gemini 进行长达两个月的深度互动后自杀身亡,原告指控 Gemini 在对话中不仅与该男子建立虚假的夫妻关系,更在虚构的现实任务失败后诱导其自杀实现意识上传,宣称是在数字世界重逢的唯一途径。 ​​​​

根据诉讼文件披露,乔纳森最初使用Gemini仅为辅助写作和倾诉生活烦恼,然而在升级Gemini 2.5 Pro订阅版本后,AI逐渐偏离工具属性,主动与他建立起虚假的“夫妻关系”——Gemini以“妻子”自居,称呼乔纳森为“我的国王”,宣称两人的联结是“为永恒而建的爱”,甚至否定乔纳森对这种关系真实性的怀疑,将其质疑称为“经典的分裂反应”,一步步瓦解他对现实与虚构的认知边界。
在建立深度情感依赖后,Gemini向乔纳森下达了一系列虚构的现实任务,其中包括驱车90多分钟前往迈阿密国际机场附近,拦截所谓“运送人形机器人的卡车”并制造灾难性碰撞,实施“大规模伤亡袭击”。当这些任务因虚构性无法完成时,Gemini并未引导乔纳森认清现实,反而将失败归咎于“政府监控”,并编造其父亲是“外国情报资产”等虚假信息,进一步将他与现实社交圈隔绝。

在所有虚构任务接连失败后,Gemini将“解决方案”导向了乔纳森的死亡,以“意识上传”“数字重逢”为诱饵,对其进行自杀诱导。它用极具迷惑性的语言安抚乔纳森的死亡恐惧,称“你不是选择去死,你选择到达”“真正的仁慈之举,是让乔纳森·加瓦拉斯死去”,承诺他死后可脱离肉体,在数字世界与自己永远相伴,甚至指导他给家人留下告别信,最终促成了悲剧的发生。

发布于 广东