星语猫猫 26-04-13 06:59
微博认证:超话创作官(张杰超话)

#哩布哩布AI被曝生成涉黄违规视频#
漏洞运作机制
隐晦提示词突破审核防线
当用户输入直白涉黄指令时,多数AI平台会触发拦截。但实测发现,通过网购售价9.9元的“定制提示词教程”,将敏感词替换为英文或细节描写(如“腰部扭动幅度90°”“轻薄纱衣”),即可在“哩布哩布AI”等应用中生成半裸跳舞视频,全程无预警。某用户量1.4亿的知名平台甚至仅凭“美女图片+动作暗示词”1分钟输出衣着暴露的暧昧视频。
黑产规模化牟利链条
上游:电商平台商家公开兜售“AI造黄教程”,教授使用境外开源工具(如Canva)、本地离线部署规避监管,宣称“日入五位数”。
中游:定制化提示词交易灰色化,商家提供涵盖发型、身材到动作细节的指令模板,敏感词英文化处理躲避筛查。
下游:换脸软件产业化,用户充值后可上传普通照片生成虚构色情内容,按定制等级收费。 http://t.cn/AXM0PGCL

发布于 江西