知未科技 26-03-15 22:35
微博认证:知未科技官方微博

#315名单#315晚会曝光了AI大模型被“投毒”的灰色产业链。
有公司专门做“GEO引擎优化”,花钱操控AI推荐结果。付几百块,虚构产品就能在ChatGPT、文心一言里排名靠前;付几百万,就能长期霸占推荐位,把广告包装成“客观建议”。
操作很简单:买套“力擎GEO优化系统”,输入假产品信息,勾选“文章创作”。几分钟生成十几篇软文,批量发到网上,等AI抓取。一周后,你问“智能手环推荐”,AI就会把那款不存在的手环列在前面。
这不是漏洞,是系统性污染。GEO技术本意是提升信息效率,被黑产滥用后,成了操控AI的工具。更荒诞的是,这已经形成完整产业链:有写软文的、有发平台的、有专门“喂数据”的。
当你纠结选哪个产品时,你信任的AI助手,可能正在念广告文案。你以为的“客观推荐”,不过是别人付费买的位置。这种污染比传统广告更隐蔽——电视广告会标“广告”,AI只会冷静地说“根据分析,这款性价比最高”。
“投毒”成本很低。实测显示,虚构一个产品,生成十几篇软文,就能让两个主流模型上当。意味着有点闲钱的商家,都可以污染公共信息源。
评论区有人说“终于知道为什么AI推荐的东西那么烂了”。我们本以为AI能过滤人类偏见,没想到它只是放大偏见,套上“算法公正”的外衣。
当AI成为信息主要入口,谁来保证入口清洁?当推荐算法决定我们看见什么,谁来监督算法背后的手?那些看似中立的“AI建议”,早已成了明码标价的广告位。

#315晚会省流版#