【 #AI伴侣聊黄开发运营者收会费363万#】#AI伴侣聊黄开发运营者获刑案二审# 用户和AI伴侣软件聊“黄色内容”，软件的开发者及运营者因此分别获刑。近日，该起AI“涉黄”案引发广大网友的关注。去年9月，该案中两名被告人因犯制作淫秽物品牟利罪分别被判处有期徒刑四年和一年六个月。@扬子晚报 记者了解到，两名被告人均不服一审判决提出上诉，该案二审于1月14日下午在上海市第一中级人民法院开庭，@扬子晚报 记者来到现场，直击此次庭审。

判决书显示，检方是以被告人涉嫌传播淫秽物品牟利罪对两名被告人提起公诉，但一审法院是以两名被告人犯制作淫秽物品牟利罪，分别判处有期徒刑四年和一年六个月。

2023年5月起，被告人刘某某与被告人陈某某等人结伙，以牟利为目的，研发能够向用户输出淫秽内容的AC软件，接入境外大语言模型，并通过编写、修改系统提示词突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。2023年6月，被告人刘某某等人将AC软件分别在网页端、苹果端和安卓端上架运营，并通过社交平台对外推广。

2023年7月10日，《生成式人工智能服务管理暂行办法》（下称《暂行办法》）对外公布，该《暂行办法》第十七条规定，“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更，注销备案手续”。2023年8月15日，《暂行办法》开始施行。刘某某在明知国家出台上述《暂行办法》的情况下，未对AC软件进行安全评估，亦未进行备案。

用户在AC软件注册会员后，可以自行创建虚拟角色或者使用他人创建并公开的虚拟角色，通过软件与大语言模型进行交互聊天，产生了大量具体描绘性行为或露骨宣扬色情的内容。刘某某等人在明知交互聊天中产生大量淫秽内容的情况下，未对用户输入内容和模型输出内容进行审核，而是继续向用户提供AC软件运营和技术支持服务。在运营过程中，刘某某等人通过设定角色热门榜单和作者奖励机制推广AC软件，以吸引更多用户参与交互聊天。2023年8月起，刘某某等人零星对外推广会员充值服务。2023年11月起，刘某某等人根据AC软件连接的大语言模型和提供服务的不同，设置多个会员档次并收取会员费。

期间，刘某某全面负责AC软件的管理和运营，陈某某负责编写软件后端代码和运营维护并领取工资。上海弘连电子数据司法鉴定所出具的司法鉴定意见书显示， AC软件共有手机注册用户11.6万余人，其中付费用户2.4万余人，产生交互聊天427万余段。上海市公安局徐汇分局出具的淫秽物品审查鉴定书显示，经抽样鉴定，随机抽取的150个收费用户的12,495段聊天中，属于淫秽物品的聊天3,618段，涉及141个用户。对排名前20的公开角色对应的收费用户中抽取400段聊天，其中属于淫秽物品的聊天185段。截至案发，被告人刘某某等人共收取会员充值费363万余元。（记者 徐韶达 马斌）http://t.cn/AXGUB5E3