玉名 26-03-16 08:45
微博认证:财经博主 微博原创视频博主 头条文章作者 财经答主

#你问AI得到的答案可能是广告##给AI投毒已成产业链#对A股来说,315最大的雷就是GEO,生成式引擎优化。其实,有毒数据投喂,导致大模型失真,已经是业内公开的秘密了。
之前也提到过大模型最大的问题就是数据库被污染了,大量不实信息充斥其中,而大模型自身无法辨别,直接引用和学习后,就是一本正经胡说八道。
更可怕的是,如今为了维护大模型权威,很多时候还会自己编造信息来自我印证,也就是AI造谣,这个事儿很难解决,毕竟信息时代,本身信息冗余,接入互联网就必然受到污染,不接入就意味过时,人工审核不过来,短期无解。

发布于 北京