【央视曝光的#涉黄AI软件获多家基金投资#“国内AI文生图赛道融资额TOP1”】央视近日曝光,在一款名为哩布哩布AI的AI应用里,记者输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制。
天眼查App显示,哩布哩布AI关联公司北京奇点星宇科技有限公司成立于2023年5月,由陈冕、北京奇点星辰企业管理发展中心(有限合伙)共同持股。公司融资历程显示,从2023年至2025年,已获得源码资本、高榕创投、金沙江创投、明势创投、巨人网络、渶策资本、顺为资本、红杉中国、CMC 资本、蚂蚁集团、联想创投等多家基金的投资。
官网称,截至2024年5月,LiblibAl已经积累了近1000万专业的Al图像创作者,用户量位居国内第一,在国内“Al文生图赛道融资额TOP1”,多家顶级风险投资机构联合参与,总金额达数亿人民币。
4月14日,哩布哩布AI发布关于加强内容安全管理的说明:近期媒体对AI生成内容安全问题的讨论,我们已关注并高度重视。第一时间启动内部专项排查,对平台生成能力及审核机制进行了全面自查。经排查发现,在个别复杂提示词组合及规避表达的边界场景下,平台存在生成不符合规范内容的情况。#被央视曝光的涉黄AI软件完成技术修复#
对此,我们深表歉意。本次问题也为我们敲响了警钟,使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足,未达到应有标准。相关问题已第一时间完成技术修复,并对风险路径进行全面封堵。同时,我们已同步加强攻防演练与审核机制升级,持续提升识别能力与处置效率,从源头降低风险发生。我们也已启动内部责任复盘机制,进一步完善相关管理与审核流程。
内容安全是平台的底线。我们将以更高标准持续完善内容安全体系,推动平台生态健康有序发展。也诚挚邀请用户与社会各界共同监督,共建更加清朗的网络空间。(综合界面新闻等)http://t.cn/AXMHRdKp
