#国内首起AI服务提供者涉黄获刑案# 这案子在各个平台的争议都挺大，简单说就是一款叫AlienChat的AI聊天软件，因为上面有大量用户用它来搞颜色（警方抽查，151个付费用户里面141个用户是用它来搞颜色的，占比94%，人均会员费是151元。），所以司法机关逮捕了这个软件的两位老板——软件开发者和共同运营者，指控他们制作淫秽物品牟利罪。

然后两个被告不服，觉得所谓的“淫秽物品”是用户用AI自己生成的，跟他们无关；而且对话都是私人对话，也传播不出去。自己给自己搞“小黄雯”也犯法吗？

法院的思路主要有两点，一是被告利用提示词让软件绕开了大模型本来对露骨内容的限制，所以主观上就是想要引导用户用他们的软件来搞颜色；二是收费。而且虽然这些聊天是私人的，但他们这种引导和鼓励很明显是一种商业模式，具有了公共属性。

以这个逻辑，本案还有一个用户因为用AI创造了一个——简单说就是色情角色，并且用这个角色获利，也被取保候审了。罪名也是“制作淫秽物品牟利罪”。

所以，虽然淫秽的内容是AI生成的，但法院还是追究了人类的责任。

我国制作淫秽物品的概念是：将想法、观念或情感通过构思、取舍、选择、安排、设计或组合在淫秽物品中表现出来的制作。

也就是说，虽然具体的淫秽内容并不是人制作的，但这个成果包含了被告们的人为操作，所以他们无法免责。

目前一审两名被告一个获刑四年，一个获刑一年。14号该案件将二审。

（图1）：AlienChat软件聊天页面截图

http://t.cn/AXG7SHiJ