AI最危险的不是会换脸,而是能拿别人的信誉赚钱。
吴越根本没有推荐过的产品,却有人用AI合成她的脸和声音,制作带货视频替商品背书。更讽刺的是,视频还标注了“含AI生成内容”。
这就引出了一个问题:标注了AI生成,就可以拿别人的脸和声音做生意吗?
当然不行。
消费者看到熟悉的面孔、听到熟悉的声音,很容易相信这是本人推荐的产品。等发现被骗,钱可能已经花出去了。而被冒充的人,明明什么都没做,却要亲自站出来澄清,维护自己的名誉。
造假者复制的是一张脸,变现的却是一个人多年积累的信誉。
这才是AI仿冒带货真正值得警惕的地方。
以前造假需要一定的制作成本,现在AI把门槛大幅降低了。一个账号被封,还可能换个账号、换张脸继续做。如果背后的运营者和利益链条没有被追查,封号就可能只是暂时止损。
所以,打击AI假冒不能只靠吴越们喊打。
平台不能只看视频有没有AI标识,还要看有没有未经授权冒充真人进行商业推广。发现问题后,除了删除内容、封禁账号,还应该追查背后的运营者和相关交易,不能让造假者换个马甲就能重新获利。
更不能把责任全部推给消费者。普通人买东西,不应该先学会辨别AI换脸、声音克隆,才能避免被骗。
AI标识不是授权书,技术上做得到,也不代表就可以这么做。
吴越站出来发声,当然有价值。但普通人被冒充时,可能连让更多人看见自己遭遇的机会都没有。
真正有效的治理,不应该每次都等受害者站出来喊打,而应该让未经授权的仿冒更难传播,让背后的造假者付出代价,让消费者在被骗后有清晰、有效的维权渠道。
AI可以复制一个人的脸和声音,却不应该替这个人决定说什么、卖什么,更不能擅自拿走他多年积累的信誉。
脸可以被AI模仿,但信誉不该成为谁都能复制、拿去变现的商品。
发布于 安徽
