红星新闻 26-04-13 14:49
微博认证:成都传媒集团成都商报红星新闻

#别让AI沦为造黄工具##AI涉黄不能只打露头者# 【快评丨别让借AI“造黄”牟利的歪心思,毁了技术的未来】#平台放任AI涉黄必须付出沉痛代价# 对于借AI“造黄”牟利的乱象,平台监管和执法认定都需有相应制度性防范,对违法“造黄”行为进行系统性打击。以此牟利者,不管是软件开发者还是教程贩卖者,都带有明显的主观恶意,应依法严惩。

据报道,除了以问答模式生成擦边视频的AI平台,市场上还有专门靠AI生成色情视频牟利的软件。比如,购买者可根据充值金额的不同,通过AI技术一键快速替换原片,生成虚构的色情照片,只要购买者愿意付费,相应软件即可通过一张图片,生成全裸照片和色情视频。

换言之,谁的脸都有可能被恶意生成为擦边视频的主角,若任其无序发展与滥用,只会人人自危。当无辜者被替换成性骚扰、投毒、杀人等AI伪造的涉案者,又会带来怎样的恐慌和执法成本?

环环相扣的牟利链条,暴露出从技术开发、内容生产到平台传播、监管治理等多个环节的失守。需尽快厘清各方责任,构建全链条治理体系,从根本上遏制AI“造黄”乱象。

如此公开叫卖的涉黄“生意”,不能只打露头者,对于造黄、传黄、平台放任等行为,每一环都必须付出沉痛代价。技术防“越狱”,法律惩“越界”,AI技术的健康发展,离不开技术向善的伦理坚守、平台履责的严格把关、监管有力的法治保障和公众参与的共治格局。唯有各方形成合力,才能让AI技术真正服务于人,而非沦为污染网络空间的工具。http://t.cn/AXMWLK0O #多方资本领投涉黄AI软件# http://t.cn/AXMWLH16