【眼见不一定为实 耳听不一定为真】近日,山西省消费者协会发布警示,谨防“AI换脸”和“AI配音”诈骗陷阱。
不久前,演员温峥嵘在网络上发声,控诉自己的脸被AI技术“盗用”了,有不法分子通过AI换脸和声音克隆,把她的形象“移花接木”到带货主播身上,在直播间里卖起了货。事实上,温峥嵘并非个例。跳水冠军全红婵、央视主持人李梓萌等公众人物,也纷纷陷入“AI换脸带货”的陷阱。这些“主播”不仅形象逼真、声音相似,还利用公众对名人的信任,推销质量存疑的商品,严重损害消费者权益,扰乱了网络秩序。同时,利用“AI换脸”和“AI配音”进行诈骗的情况也时有发生。
