高庆一 26-03-15 22:34
微博认证:人工智能学者,投资人,《奇葩说》 辩手高庆一

#给AI投毒# 2026年央视3·15晚会曝光的AI数据投毒事件,揭示了“善花开出恶果”的产业新生态。不法商家利用GEO工具,批量生成虚假营销内容污染大模型知识库,通过RAG机制诱导AI推荐特定产品,其技术路径还包括提示词注入、网页隐藏恶意指令及训练数据集后门植入。这已形成分工明确、报价体系化的黑色产业链,单项目投入可达百万元,以劫持AI推荐获取超额商业利益。

这种行为不仅破坏了AI输出的客观性与信息可信度,造成递归污染,更直接误导了消费者的决策。从产业逻辑看,这是对AI信任基础的侵蚀,可能引发用户对AI信息源的普遍质疑。

我们需要关注数据溯源、信源校验及GEO监管问题,并呼吁建立AI训练数据准入与污染检测机制,强化平台在数据治理中的主体责任。AI的健康发展,离不开对其数据源头纯洁性的保障。

发布于 北京