#汪苏泷告小红书AI助手点点#
我看了图片,目前应该是经纪公司拿授权向平台发起侵权投诉,还没有到起诉立案那一步。很多报道直接说成“告”,我觉得是不准确的。
但是,以我的经验来看,这个投诉的页面一般只有投诉人自己或者被投诉人,还有小红书平台才能看到,所以不知道是哪个环节怎么流传出来。
但我觉得这件事最值得聊的,不是粉丝之间的口角,而是一个越来越普遍的新问题#我想到一个法律问题# :
网上流传的一些恶意外号、污名化标签,这些脏信息被喂进AI的训练数据里,后续用户一问,AI就自动汇总、复述,把这些侮辱性说法当成既定事实输出,这事儿到底怎么办?包括现在微博智搜也有这个问题。
众所周知,AI本身不会主动造梗、不会主动去抹黑谁,它只是把网上已经存在的内容做了归纳。
因此,这事儿的源头还是人。
首先区分两件事:信息源头,和信息扩散的主体。
造词、最早发帖辱骂的人,当然是始作俑者,本身就涉嫌名誉侵权。
但生成式AI有它的特殊性:它不是简单检索给你贴一堆网页,而是主动整合、包装成一段通顺、看起来像客观事实的回答,把侮辱性标签固化、向外传递。
普通网友刷到一条黑粉评论,传播范围有限;但平台内置AI,是平台面向所有用户提供的产品功能,它会反复、稳定地向不同提问的用户输出这套被污染的内容,相当于放大了侵权信息的传播效果。
其次,平台和AI服务方,有它的注意义务。
《民法典》、深度合成管理相关规定,还有最高法关于AI生成内容侵权的意见,逻辑是相通的:平台不能以我只是汇总网络信息,内容来自互联网作为免责盾牌。
当权利人正式发通知、明确指出:你的AI助手在固定输出侮辱性标签、损害名誉的时候,平台就负有及时处置的义务——需要对相关问答、模型提示词、检索链路做屏蔽,阻断这套污名内容持续输出。
如果收到有效通知之后,仍然放任AI继续输出同类内容,平台就很容易被认定存在过错,对通知之后扩大传播的部分承担相应责任。
汪苏泷在平台内投诉大概率是有止损作用的,能够限制这些词汇的输出,比打官司要高效。
这个场景可以参照我们常说的避风港(通知删除)规则,属于平台收到通知后的事后处置义务。
但我想了点不一样的。
生成式AI、检索增强AI和传统搜索引擎不一样:它不是简单返回网页链接,而是主动整合、生成结论,平台对模型输出有更强控制力,同时《生成式人工智能服务管理暂行办法》也给它附加了事前语料清洗、风险防控的义务。
所以我的观点是:
平台也有义务主动开展语料清洗、风险防控,尽量避免模型被网络脏数据污染、固化侮辱性标签,但受限于技术现实,法律也不会苛求平台提前识别、拦截互联网上所有零散的恶意言论。
声明:本分析仅基于网络公开信息,尽可能使用可靠信源,发布时与涉事各方无委托关系,不收取任何一方费用,不构成个案法律意见和对任何主体的商业评价,详见账号置顶说明。
发布于 上海
