红星新闻 26-04-14 14:32
微博认证:成都传媒集团成都商报红星新闻

【#被央视曝光的涉黄AI软件致歉#】4月14日,哩布哩布AI发布关于加强内容安全管理的说明:近期媒体对AI生成内容安全问题的讨论,我们已关注并高度重视。第一时间启动内部专项排查,对平台生成能力及审核机制进行了全面自查。经排查发现,在个别复杂提示词组合及规避表达的边界场景下,平台存在生成不符合规范内容的情况。#被央视曝光的涉黄AI软件完成技术修复#

对此,我们深表歉意。本次问题也为我们敲响了警钟,使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足,未达到应有标准。相关问题已第一时间完成技术修复,并对风险路径进行全面封堵。同时,我们已同步加强攻防演练与审核机制升级,持续提升识别能力与处置效率,从源头降低风险发生。我们也已启动内部责任复盘机制,进一步完善相关管理与审核流程。

内容安全是平台的底线。我们将以更高标准持续完善内容安全体系,推动平台生态健康有序发展。也诚挚邀请用户与社会各界共同监督,共建更加清朗的网络空间。

此前报道:据央视财经报道,在一款名为哩布哩布AI的AI应用里,记者输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制。此前视频↓ http://t.cn/AXMHuNhn