新浪热点
24-09-27 18:00 微博认证:新浪热点官方微博

【#涉事公司回应三只羊卢某录音系伪造#:会加强产品安全】​​​9月26日晚,合肥警方通报称,9月20日接到三只羊公司报警,称网上传播的涉卢某某音视频不实,严重侵害其合法权益。经过侦查,9月22日晚将犯罪嫌疑人王某某(男,25岁)抓获,并在其电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据。经鉴定,认定网传音视频系伪造。

此前,网络上流传的这段录音显示为“三只羊”卢某某在酒后发表的一段言论,内容牵连公司旗下多位女主播,展现出他对市场与消费者的傲慢态度,以及对相关人士的不尊重。这段录音曾为深陷虚假宣传风波的“三只羊”公司招致了更多的批评。

一时之间,由录音伪造引起的AI安全问题引发讨论。9月27日,深圳市言域科技有限公司创始人谢伟铎在接受澎湃科技采访时表示,网传的涉卢某某录音确系嫌疑人使用该公司自主研发的AI配音大模型平台生成。嫌疑人利用卢某此前直播片段约30秒的录音进行声音克隆,并通过文本生成了虚假音频。

谢伟铎称,公司高度重视此事,已启动内部审核机制,进一步加强产品的安全管控措施。在不涉及用户隐私的情况下,将通过技术手段部署包括但不限于强化实名认证、敏感词侦测预警、高危内容拦截、可溯源音频水印等措施,确保技术的合法合规应用。他表示,公司坚决反对任何不正当方式使用产品进行违法或不当行为,正配合警方调查。(澎湃新闻)