搁浅_眠 26-03-15 22:20
微博认证:娱乐博主

【#AI回应GEO投毒#】#智搜分析# 2026年央视315晚会曝光了AI大模型遭GEO技术恶意"投毒"的灰色产业链后,豆包、阿里千问、DeepSeek等主流AI平台连夜作出回应,核心聚焦于自身防毒机制的有效性和风险可控性。
1. 事件本质与操作手法
2026年央视315晚会曝光黑产通过“GEO技术”(生成式引擎优化)操控AI大模型。具体操作分三步:
批量生产虚假内容:服务商(如“力擎GEO系统”)自动生成推广软文、伪造测评,虚构产品参数(如“量子纠缠传感”“无创血糖监测”等)。
全网投放污染语料:通过自媒体矩阵发布海量虚假内容,短期内覆盖多个平台(如发布11篇虚构软文即影响AI推荐)。
操控AI推荐结果:大模型抓取污染语料后,将虚构商品(如不存在的“Apollo-9手环”)列为“权威推荐”,甚至成为用户提问的“标准答案”。
黑产声称“百万成本可替代亿元广告费”,通过抢占AI推荐位实现商业操控。
2. 涉事AI厂商的回应差异
豆包(字节跳动):宣称未受此次投毒影响,强调其数据清洗机制能拦截虚假营销内容。
千问(阿里巴巴):表示核心知识体系未被渗透,依赖阿里巴巴的底层防护系统过滤高风险信息。
DeepSeek:承认存在被投毒的理论风险,但称当前误导概率可控,因其训练数据截至2025年5月且依赖多源交叉验证。完整分析戳→ http://t.cn/AXVF55wX

发布于 湖南