北京日报 26-03-04 21:15
微博认证:《北京日报》官方微博

【#建议AI制作内容加不可去除水印# 】#让AI生成内容持证上岗# 针对AI生成内容可能引发的虚假信息传播和侵权问题,全国人大代表、山东省音乐家协会名誉主席刘晓静建议建立“AI生成内容强制标识制度”,让每一段AI生成的视频、音频都带有不可去除的数字水印。让AI生成内容“出生”就打上不可抹去的烙印,可有效防止其以假乱真。

从撰写文章、生成图片到制作视频,AI在带来便利的同时,也催生了新风险。有人利用AI伪造图片制造网络谣言,靠猎奇虚假内容收割流量,扰乱网络传播秩序;有人用AI生成商品破损、变质的虚假图片,以质量问题申请仅退款,损害商家合法权益;甚至有人伪造大病病历、医疗诊断报告,骗取公益筹款和保险理赔,触碰法律红线。前不久,演员王劲松公开控诉自己被AI换脸、克隆声音,沦为虚假理财广告的“代言人”,导致其肖像权、名誉权受到严重侵害。值得警惕的是,这些AI生成内容逼真度极高,若没有明确标识提醒,普通公众很难分辨真伪,极易上当受骗。

事实上,让AI生成内容“持证上岗”,已成监管与行业的共识。2025年9月1日,《人工智能生成合成内容标识办法》正式施行,要求所有AI生成的文本、图片、视频等内容必须添加显性或隐性标识;各大网络平台也陆续上线标识功能。网信部门也加大整治力度,持续处置大量违规账号和无标识虚假信息。坑人骗人的AI生成内容之所以仍大量存在,除了一些人利欲熏心,处心积虑规避审核和监管,更因为数字水印“防火墙”存在漏洞。据报道,从几十元的基础工具到上千元的定制服务,明码标价的AI规避标识“生意”已形成黑灰产,各类绕过平台检测的反标识技术和“隐身术”工具也迭代升级。甚至有人分享去标识教程,让AI生成内容得以“隐身”传播。同时,不同平台的AI标识检测标准不统一,部分平台缺乏有效的标识核验工具,进一步加剧了监管难度。

随意删除、规避AI生成内容标识,不仅是对监管规则的无视,更是对社会信任与法律秩序的公然挑衅。数字水印作为AI内容的“数字身份证”,不仅能保障受众的知情权,避免其被虚假信息误导,更能为版权保护、责任追溯提供有力支撑,净化网络信息生态,守护社会信任底线。给AI生成内容添加不可去除的数字水印,势在必行。尤其是对提供AI生成服务的平台,必须保证其生成的所有内容有标识、可追溯,标识难去除、易验证。对违反相关规定特别是恶意删除标识、提供规避标识工具的主体,要从重处罚加大其违法成本,从利益根源上遏制乱象。

打上不可去除的水印,就是要AI生成式内容大大方方亮相,不再羞羞答答甚至偷偷摸摸示人。(@北京日报 记者 孟雅檀 视频:中国青年网) http://t.cn/AXcsf6Nb