四川观察 26-01-12 12:04
微博认证:四川广播电视台《四川观察》官方微博

【#用户与AI高频率聊黄开发者获刑#】#专家解读用户与AI聊黄开发者获刑# 1月12日据新京报报道,因为大量用户在APP上与AI智能体“聊黄”,APP的主要开发和运营者被追究了刑责。2025年9月,上海市徐汇区人民法院一审判决,两名被告人犯制作淫秽物品牟利罪,分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。

海南大学法学院教授阎二鹏提出,刑法是用惩罚犯罪的方式,来保护我们的生命财产安全和社会公共利益,制作淫秽物品的行为构成犯罪,前提是产生公开化或传播等风险,扰乱了社会管理秩序。假如用户只是进行人机之间的封闭对话,不将黄聊内容录屏传播,行为不具有侵害社会管理秩序的特征,不构成淫秽物品类犯罪。

AC案的一审法院也认可案中色情聊天不具有典型的“传播”性——“因为色情聊天内容是人机互动时产生的、一对一的,通常情况下涉案色情聊天内容仅有与AI对话的用户能看到,具有一定的封闭性。”但鉴于对“淫秽物品的数量、会员人数、收费金额”等因素综合评估,法院认为两被告人的行为具有社会危害性。一审判决书显示,有高比例的用户在AC上高频率聊黄。经公安机关抽样鉴定,150个收费用户的12495段聊天中,有141个用户的3618段属于淫秽物品。

接受新京报采访的多名法律学者均认为,在AC案中,社会危害性是存在的。一位专注人工智能治理领域的法律学者对新京报解释,AC的服务提供者创建了一种产品环境,放任大量违法内容产生。在现行法律框架下,当聊黄这种私密行为通过一个缺乏管控、以营利为目的的平台被大规模、系统性地实现时,就不再仅是个人私事,它的社会危害性就被法律所认定,AC的服务提供者也要为此承担安全治理的责任和义务。 #用户与AI聊黄开发者获刑# http://t.cn/AXbsIP2x