【#AI服务涉黄第一案本周再开庭#！多方探讨开发者责任边界等】#AI聊黄色内容不传播也有社会危害#备受关注的“AI服务涉黄第一案”再迎新进展。此前，因为大量用户在一款名为AlienChat（下称“AC软件”）的APP上与AI智能体“聊黄”，APP的主要开发和运营者被追究了刑责，两被告人犯制作淫秽物品牟利罪，一审分别获刑四年、一年六个月。二审于1月14日在上海市第一中级人民法院开庭，因涉及一些AI领域的技术问题需要厘清，二审并未结束。南都N视频记者获悉，法院将于5月21日进行二审的第二次开庭审理。

本案争议焦点包括淫秽色情内容的生产者到底是谁，用户在APP上与AI聊黄是否有社会危害性等。近日，南都N视频记者多方采访互联网治理领域专家，探讨AI聊天软件涉黄内容防控、开发者的责任边界等问题。

另外，今年4月，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情内容等行为划出红线，南都N视频也推出《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》。多位业内专家表示，针对相关乱象，需从事前治理、事后干预等方面构建全流程多方共治机制。

不传播是否就不会造成社会危害？

南都此前报道，一审法院上海市徐汇区人民法院称，被告人王利、李成（均为化名）等人向社会公众开放注册使用AC软件，用户多达11.6万余人，其中充值用户2.4万余人，产生了400余万段交互聊天；经抽样鉴定，随机抽样检查中150名收费用户中的141人聊天内容“涉黄”，12495段聊天中的3618段“涉黄”。

南都记者注意到，虽然一审法院也认可：从淫秽物品的流通性来看，本案中的色情聊天内容是人机互动时产生的、一对一的，通常情况下涉案色情聊天内容仅有参与该聊天的AC会员能够看到，具有一定的封闭性。不过，一审法院又表示，从淫秽物品的数量、会员人数等来看，开发者的行为具有严重的社会危害性，应依法追究刑事责任。

具有封闭性的AI聊黄内容，不传播是否就不会造成社会危害？

北京邮电大学互联网治理与法律研究中心主任谢永江认为，被告人通过“突破模型道德限制+设置会员付费”的模式，将“聊黄”作为核心吸引力，本质是将淫秽内容商业化。即便内容仅在“一对一”场景中产生，但其面向十余万用户开放，且抽样段近三成涉黄，已形成“规模化违法”，破坏了网络空间的公序良俗与监管秩序，符合刑事认定标准。

北京理工大学智能科技法律研究中心研究员王磊告诉南都记者，“封闭性”不能成为豁免“社会危害”的理由，需结合行为的覆盖范围、牟利本质、对公共秩序的破坏程度等综合判断。

他表示，即便聊天内容是“一对一”封闭交互，但软件通过公开推广、设置热门角色榜单、作者奖励机制等方式，主动吸引用户参与“聊黄”，实为淫秽内容的产生提供了专门工具和传播渠道，违背公序良俗，冲击网络空间治理秩序。此外，本案中，开发者通过修改系统提示词突破模型道德限制，本质是“主动为淫秽内容生成提供技术工具”，即便聊天内容仅在“一对一”场景下产生，仍直接违反“禁止生成淫秽内容”的强制性要求，行为本身已具备违法性，而非仅以“传播范围”判定危害。采写：南都N视频记者 马辉http://t.cn/AXidjB8q