#央视曝AI克隆声音乱象#央视曝光了AI克隆声音乱象，随着人工智能技术和语音大模型应用的发展，AI合成声音App大量出现，最快只需十几秒便可“克隆”出声音，AI声音滥用现象愈发突出 。

记者在某短视频平台以“AI克隆声音”为关键词检索发现，明星翻唱、新闻播报等大量视频涉及AI声音，有些甚至出现不雅词汇 。一些商家在短视频平台带货时，通过AI模仿声音技术将主播“变”为知名女明星、知名医生，销售服装、保健品等相关产品，对消费者造成严重误导 。例如，有自媒体博主利用AI模仿全红婵、王楚钦、孙颖莎等运动员声音带货，还称所卖鸡蛋是全红婵自己家里的，王楚钦和孙颖莎都是全红婵联系帮她卖的。

此外，AI克隆声音还被用于诈骗，不法分子通过“AI换声”仿冒他人声音，实施诈骗行为，有的诈骗金额达到上百万元 。

专家表示，个人声音中的声纹信息属于个人信息保护法规定的敏感个人信息之一 。2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音 。有关主管部门也出台了一系列规定，给AI技术使用划定了红线 。 http://t.cn/A6srdAtq