洋洋得弈弈 26-01-12 14:51
微博认证:二级心理咨询师 心理博主

#国内首起AI服务提供者涉黄获刑案#开发者把AI聊天软件设计成让它能聊各种露骨色情内容,然后以此为卖点,吸引了十几万人用,还赚了三百多万。
法院一审认为这根本不是技术中立,就是故意生产和纵容,所以判了刑。

很多人觉得,用户和AI私下一对一聊天,又没公开传播,真有那么大社会危害吗?抓这么严是不是管太宽了?
另外责任算谁的?是用户的错,还是AI的错,还是开发者的错?法院认为开发者是生产者,因为是他们主动修改指令、故意放开的。

这个二审结果会成为风向标。如果维持原判,那以后AI公司必须把内容审核做得更严,绝不能打着无限制的幌子赚钱。如果改判或减刑,也可能以后Ai不好管理。

技术可以自由发展,但不能故意往邪路上带,还用来大规模赚钱。赚钱不能没底线,如果放任AI生成违法内容,自己可能就进去了。

用@微博智搜 带你解锁CES2026全攻略!实时追踪展会热点,让你足不出户秒懂科技风向~ 参与#用智搜高效看懂CES2026#活动,赢最高66.6元现金红包,一起解锁未来生活密码!#CES2026# http://t.cn/AXbs0HCf

发布于 北京