全国首例AI代写虚假“种草笔记”案近日在杭州中院宣判,法院明确否定了被告“技术中立”抗辩,认定即使AI技术本身没有立场,当其被定向用于批量生成特定平台的虚假内容时,技术服务提供者也要承担不正当竞争的法律责任。
一、案件核心:AI工具定向生成虚假种草笔记
本案原告是国内某主流社交平台,被告两家公司联合开发了一款AI写作工具,该工具专门针对该社交平台的内容风格进行适配,可一键批量生成种草笔记、旅游攻略等文案,并诱导用户发布到平台上。 工具的热门模块直接展示了“小某书种草文案”“小某书旅游攻略”等服务,输入产品名称和特点,即可瞬间生成几百字绘声绘色的“真实体验”内容,而这些推荐完全是AI杜撰,没有任何真实使用经历。
二、法院认定:技术中立不等于技术应用中立
本案的核心争议焦点在于,定向提供生成式AI服务是否构成不正当竞争。 法院提出了“四要素判定法”来审查技术中立抗辩:- 是否为生成式AI服务:被告提供的服务属于生成式人工智能服务- 是否以特定场景作为应用层:工具模块直接使用了该社交平台相关命名,以该平台作为商业应用层,而非通用AI工具- 是否带有明确的指向性和诱导性:服务模块诱导用户发布未经真实体验的文案内容- 是否属于营利性商业行为:该工具显示终身会员168元、年会员98元、月会员40元,具有明确的商业利益驱动
法院指出:“技术本身是中立的,但不代表技术的应用是中立的,关键要看技术用在哪里、针对谁、怎么用以及是否盈利。”
三、判决结果与司法意义
法院认定被告作为AI技术服务提供者,明知其工具可批量生成虚假种草内容、会破坏平台内容真实性,仍持续提供服务,未履行经营者的审慎注意义务,存在明显过错,最终判决被告构成不正当竞争,赔偿原告经济损失及合理开支共计10万元。 此案明确了生成式AI服务提供者的合理注意义务边界,为“数字泔水”治理划定了司法红线。