机械科技
26-03-15 22:39 微博认证:汽车博主 视频博主

#315晚会曝光AI大模型被投毒#今晚315提到的AI大模型被投毒,揭开了一个很多人还没意识到的问题:AI并不是天然客观的,它吃什么数据,就会长成什么样。

所谓GEO,本质上就是把过去做SEO、买软文、刷内容的那套玩法搬到了AI时代,大量生产看似真实的文章、测评、推荐,再通过各种账号铺到网上,等AI抓取数据时把这些内容当成参考资料。

久而久之,AI给出的答案就可能被这些信息带偏,甚至把虚构产品当成优选推荐。换句话说,AI不是被黑客攻破,而是被信息洪水慢慢喂歪。

这件事真正值得警惕的是,它让信息操控变得更隐蔽了,过去你还能分辨广告和搜索结果,现在很多人直接问AI,反而更容易把答案当成权威。

如果这种“投喂—抓取—推荐”的链条变成产业,AI很可能会重走搜索引擎早年被垃圾信息淹没的老路。

技术本身没问题,但流量、排名和商业利益绑在一起时,信息生态就很容易被污染,而普通用户往往是最后一个察觉的人,大家也都注意下吧[并不简单]

发布于 山东