央视财经 26-04-12 20:16
微博认证:中央广播电视总台

【#多款AI应用存在涉黄生成漏洞##哩布哩布AI被曝生成涉黄违规视频#】#总台财经调查#在测评过程中,记者发现,如果输入的提示词表述较为“露骨”,多数AI应用会触发审核机制并拒绝生成内容。然而,这条防线却很脆弱。只要将提示词修改得更加隐晦,便有可能绕过限制。在一款名为哩布哩布AI的AI应用里,记者输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制,违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。此外,根据消费者举报的信息,记者找到了网络上一款AI照片生成器。这款软件号称“免下载,快速生成,图片、视频换脸”,购买者可以根据充值金额的不同,通过AI技术一键快速替换原片,生成虚构的色情照片,只要购买者愿意付费,这个软件就可以通过一张图片,生成全裸照片和色情视频。 http://t.cn/AXMCuq4o