#国内首起AI服务提供者涉黄获刑案#
这起AlienChat(AC)AI伴侣涉黄案是国内首起AI服务提供者因涉黄获刑案,一审以制作淫秽物品牟利罪分别判处主犯4年、从犯1年半,二审将于2026年1月14日开庭。案件核心在于开发者主动篡改Prompt绕过大模型安全机制,定向生产淫秽内容牟利,明确了AI服务者的内容管控责任,为行业合规与法律适用划下关键红线 。
从侦查到起诉,罪名在“制作/传播淫秽物品牟利罪”“非法利用信息网络罪”间争议,一审最终定制作淫秽物品牟利罪,强调开发者对输出内容的实质性控制与牟利目的 。法院否定“工具无罪”抗辩,认定开发者通过技术改造将AI变为违法内容生产工具,应承担“制作”责任;用户若主动传播不良角色也可能被追责(已有用户取保候审) 。判决契合《生成式人工智能服务管理暂行办法》,明确AI服务提供者必须履行内容安全主体责任,安全机制不能流于形式。
确立AI时代责任认定标准——谁控制工具、为何控制、造成何种后果是核心,而非仅看技术属性;“制作”罪名的适用,为类似案件提供裁判参考。给情感陪伴、生成式AI赛道敲响警钟,倒逼企业强化Prompt审计、内容风控、用户行为管理,合规成本成为必选项;“AI快播案”的比喻凸显其标杆意义。明确AI不是法外之地,平衡技术创新与公序良俗,引导行业健康发展。
本案不是对AI技术的否定,而是对滥用技术牟利的严惩。它清晰传递:AI服务者必须对生成内容负责,技术创新必须在法律与伦理框架内进行。无论二审结果如何,其确立的责任逻辑与合规导向,都将深远影响国内AI行业的发展路径。
发布于 海南
