厚恩投资张延昆 26-04-13 16:22
微博认证:厚恩投资执行董事、总经理 财经观察官

#多方资本领投涉黄AI软件#

2026年4月,央视曝光知名AI应用“哩布哩布AI”可通过特定提示词生成半裸色情内容且未触发审核机制,其背后某企业成立仅三年便获红杉中国、CMC资本等头部机构数亿元融资,引发公众对资本风控缺位与技术滥用的强烈质疑。

该AI应用被实测验证,用户输入隐晦提示词后,可在短时间内生成违规视频,全程无有效限制机制触发,同类问题在多款AI应用中存在,暴露行业审核机制存在系统性漏洞。这家企业注册资本仅100万元,却在3年内完成多轮融资,累计金额达数亿元,曝光后相关软件仍未从应用商店下架。公众质疑投资方为追求增长而忽视内容安全尽调,相关软件曾入选行业创新榜单,资本方未对明显风控漏洞提出整改要求,存在严重失察。2025年国内首例AI涉黄案已确立司法原则,若通过提示词设计诱导生成色情内容,不属于中立技术提供者,需承担法律责任。

行业内存在低成本违规内容生成与跨境渗透的灰色链条,上游以低价售卖违规提示词包,通过多种方式规避监管,下游境外未备案AI软件以无限制为噱头,借助特定渠道渗透国内用户,未成年人可轻易接触。这类现象带来多重社会风险,容易危害未成年人身心健康,还会引发隐私泄露与网络敲诈等问题,维权难度较高。

2026年4月10日相关管理办法正式实施,对AI拟人化互动服务提出备案与未成年人保护要求,但技术迭代速度较快,部分规避手段仍缺乏针对性约束。目前多家主流平台已强化数据清洗与内容审核,行业呼吁建立语料溯源机制,从训练数据源头切断违法信息流。大量家长要求严惩相关企业,落实严格的未成年人保护机制,同时呼吁资本承担社会责任,坚守合规底线,推动技术向善发展。http://t.cn/AXMWfDHR http://t.cn/AXMWJU8H

发布于 河北