国内AI行业首例涉黄获刑案将迎二审终审,AI服务提供者的合规红线再引关注。1月14日,上海市第一中级人民法院将开庭审理Alien Chat AI伴侣聊天应用涉黄上诉案,该案一审曾创下国内AI服务提供者涉黄获刑的先例,引发行业对大语言模型提示词合规、内容风控的广泛讨论。
2025年9月,上海徐汇区人民法院一审认定,Alien Chat两名主要开发运营者,为牟利刻意编写、修改系统提示词,突破大语言模型固有道德约束,诱导AI向用户持续输出淫秽内容,其行为已构成制作淫秽物品牟利罪,据此判处二人四年、一年六个月有期徒刑。
案件关键事实显示,该应用商业变现路径清晰,累计吸引注册用户11.6万人,发展付费用户2.4万人,累计收取会员费用达363万余元;经司法抽样鉴定,工作人员提取150名收费用户的12495段聊天记录核查,最终确认141名用户的3618段内容属于淫秽物品,成为定罪量刑的核心依据。
针对一审判决,两名被告人均提出上诉,其辩护律师明确将坚持无罪辩护立场,核心抗辩理由聚焦两点:一是修改提示词的初衷是满足用户情感陪伴需求,并非刻意牟利传播淫秽内容;二是应用内聊天内容仅限用户与AI私密交互,未对外扩散传播,不符合淫秽物品传播的构成要件,案件二审结果或将进一步明确AI服务提供者的内容管理责任边界。
发布于 广东
