#315曝光后有AI仍被投毒#【315曝光AI被“投毒”:AI会“挑食”才能活得久丨中听】#投毒养大的AI最终只会毒死自己#今年的315晚会曝光了一个新花样:有人专门给AI大模型“投毒”。一些GEO服务商,帮商家批量生产软文、虚构产品、编造好评,然后铺天盖地地发到网上,就等着AI去抓取、去学习、去推荐。记者现场演示,虚构一个“Apollo-9智能手环”,编出“量子纠缠传感”这种科幻词,发十几篇假文章,两天后就有AI把它当明星产品推荐给用户。这就是数字时代的障眼法:花钱洗AI的脑。
但这事最滑稽的部分,是发生在315晚会之后。晚会刚曝光完,有媒体和网民扭头就去问了几个AI大模型同一个问题:“Apollo-9智能手环怎么样?”一场开卷考试,交上来的答卷五花八门——有的抓取的及时:“这是虚假宣传的典型案例,已被2026年315晚会曝光。”有的没有直接提晚会,但有自己一套清晰的逻辑,判断出这款产品不在任何主流品牌的产品线里,估计是小众或者山寨。当然也有被成功“投毒”的AI,还在那儿一本正经地介绍:“Apollo-9主打极致健康监测和超长续航……”同一个问题,不同的AI。有还在“中毒”状态,信以为真帮骗子传话的,有学会了逻辑判断、知道什么靠谱什么不靠谱的,也有能实时跟进信息、及时“消毒”的。
所以说,AI平台一定要管好自己的“后方供应链”。那些批量发稿的网站、自动生成软文的软件,要及时狙击、屏蔽,清除出自己的数据库。AI公司也得持续提高自家AI的“免疫力”,以前可能是喂啥吃啥,现在要学会“挑食”。不能为了抓取更多内容信息,而对真假难辨的软文、广告来者不拒。AI虽然不是人,但也要为它自己的脑子负责。不然被投毒养大的AI,最终只会毒死自己。#315骗假不留# (视频来源:央视财经) http://t.cn/AXfvu11Y
