中国新闻周刊 26-04-02 11:27
微博认证:中国新闻周刊官方微博

【#AI造谣教师因猥亵入狱10年#】#有人发防搜贴对抗AI搜索# 你有尝试通过AI搜索自己的名字吗?对于北京一所知名国际高中的音乐老师小河(化名)来说,这个操作触发了“潘多拉魔盒”。日前,他向记者讲述了自己的遭遇:在AI的搜索结果里,他与一起已宣判的猥亵案件关联在了一起。“AI准确地提到了我的职务和我所在的学校,但这完全是一个莫须有的罪名,AI的回答损害了我作为教师的公众形象。万一哪天被学生家长看到,我要付出大量解释成本,更可能承受广泛的潜在偏见。”

按AI的说法我现在应该在监狱里。我知道AI有幻觉,但没想到会发生在自己身上,且这么离谱。”发现问题后,小河曾联系AI服务提供商上海某社交平台的客服,希望能及时更改生成结果,并将自己的相关证明发送到了平台官方邮箱。他还向上海市民服务热线12345进一步反映,请求相关部门的协调。历经一年,AI生成的虚假信息网页链接才终于失效。

小河回忆,第一时间发现AI造谣的并非他本人。2025年1月某个晚间,他的同事在社交平台浏览相关帖文,发现某帖文下方出现了一个“猜你想搜”的词条,后缀并排出现了学校名字、小河真名。同事出于好奇点击了链接。页面随后跳转到了一个置顶AI答案的搜索结果。同事大吃一惊,迅速截图转发给小河,询问他是怎么一回事。

小河看到,AI信誓旦旦地描述了一起小河在其学校发生的“事件”,且声称是“目前公开信息的梳理和总结”。AI搜索结果显示,2024年6月小河因涉嫌猥亵学生,于2024年6月被刑事拘留,并最终被判处有期徒刑10年。同时,AI梳理了一条事件发展时间线:2024年6月事件爆发,2024年7月当地相关管理部门发布通报,小河被开除党籍、开除公职。2024年8月,法院一审判处小河有期徒刑10年。2024年9月,判决生效,小河被依法送交监狱执行刑罚。还附上了学校对其进行停职处理和通报。

小河在该平台尝试搜索自己的名字,发现生成结果与同事看到的一样,并且查看不到生成结果的来源依据,仅仅是“AI为你回答”。在公开平台搜索同名同姓的人士,没有找到可以对应的相关案件。学校也不曾发生过类似丑闻和案件。随后,他发现AI衍生出了关键词“事件后续”链接,生成了新的版本。AI提到,小河存在“体罚”或“辱骂学生”的行为,有模有样地提到事件的来龙去脉,并有相关视频流传,且事件在网上持续发酵,成为热点案例。他将AI生成结果的过程进行录屏,整理网页链接,向学校第一时间报备,主动证明自己的清白。

“我在账号中发了澄清帖和防搜声明,但作用都有限,AI搜索结果到现在仍会关联虚假负面信息。”小兆(化名)是一名“00后”二次元专职画师。她经常用同一个网络昵称在各个社交平台发布自己的原创作品,由此吸引潜在客户,目前已积累数千个粉丝。去年,她在某社交平台搜索自己的昵称,想看看自己的“风评”,然而,置顶的AI搜索答案中提到她存在“争议事件中的负面曝光”,称她在过去的一起交易中存在跑单、骗稿行为,需要“避雷”。

“我们画师基本是靠口碑接单,客户在下单前一定会通过社交媒体或行业平台进行背调,由此参考是否合作。这样的评价对我影响很大。”小兆最初的感受是惊讶,随后点开了AI引用来源进行分析。其中有一张截图,来自另一个社交平台,内容是她与一位网友的对话。他们讨论了另一位画师存在骗稿的失当行为。AI生成的结果反而将她关联、塑造成失当行为的当事人。小兆意识到,AI可以跨平台对同名用户的评论内容进行截图抓取,且在处理文本信息时无法准确分辨账号名字与评论内容的逻辑关系。

许多网友也发现了AI搜索存在类似缺陷,开始分享五花八门的“AI防搜”经验。比如,在账号简介写一句“账号已注销”,可以减少AI生成的具体内容。又比如,将昵称改成食物类等更为大众的称呼,AI生成的内容就只会出现常规词条解释。小兆则不想更改昵称,她担心粉丝不认得她而“取关”。她找到了他人分享的一篇“防搜说明”模板,并在账号中发布:本人账号(ID: XX)在该平台发布、上传及曾删除的全部内容(包含本声明发布前后的所有内容,尤其是商业产品、文艺作品、音视频作品等),均不授权和许可XX平台及所属公司及其关联公司、股权持有人使用。禁止人工智能相关处理(包括但不限于机器学习、数据分析、自动生成摘要等)、内容改编、二次创作或跨平台转载、商业推广及营利性活动、整合至其他产品或服务(含已知及未来开发的技术形式)、用户画像构建及行为分析。

这样的声明会“震慑”AI吗?小兆摇摇头,AI在不久后确实新增了一部分关于这些澄清举动的内容,但描述十分模糊,口吻中性,仍关联此前生成的虚假信息。“好像我的职业生涯真的有‘瓜’一样。”平台亦没有对应的投诉通道,小兆只能无奈地在右下角的“点赞”和“没用”中选择后者。

“网友发布的AI防搜声明,有一定法律效力,能有效固定用户权利主张。但并非‘绝对有效’,最终能否对抗平台还要取决于用户协议约定、法律强制性规定及举证情况。”一名业内人士告诉记者,不少社交平台、大模型企业在用户使用协议中就要求用户让渡部分个人信息的使用权利,因此类似的声明难以直接阻断平台合规的数据使用,需依靠监管部门推动平台完善隐私政策,保障用户选择权。(上海民声直通车) #教师被AI造谣猥亵入狱10年#