梁平法院 25-11-24 15:23
微博认证:重庆市梁平区人民法院官方微博

#今日说法# 【#消费者遭AI换脸诈骗险被骗40万#】#AI换脸技术滥用乱象调查#11月5日,温峥嵘在短视频账号进行3次以“我是真的温峥嵘”为主题的直播,讲述近期被AI伪造、换脸直播带货的经历。
  此前,已有多位名人深受AI换脸困扰。主持人李梓萌的AI伪造形象出现在直播间,虚假宣传深海鱼油“能治病”;奥运冠军全红婵的声音被AI克隆,用于售卖土鸡蛋;医生张文宏被换脸,其形象被用于在直播间售卖某款蛋白棒产品,销量已过千。张文宏自述:“这些假的合成信息就像蝗灾一样,一次又一次发生……”
  AI换脸技术的滥用甚至延伸至刑事犯罪领域。2024年10月,江苏省南京市玄武区人民法院审理的一起案件中,被告人符某非法获取195万条公民个人信息,利用AI换脸软件生成动态人脸视频,成功突破某金融支付平台的人脸识别认证系统,登录被害人的支付账户,盗刷银行卡进行消费。法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚,判处符某有期徒刑4年6个月。
  2024年,内蒙古鄂尔多斯一名消费者遭遇AI换脸诈骗,险些损失40余万元。视频通话中,不法分子利用AI换脸技术冒充该消费者朋友,以资金周转为由,诱骗其转账40余万元。好在警方介入及时,未造成实际损失。http://t.cn/AXLJe9zf