既然上市公司明确辟谣,那么是什么原因导致这些错误回答呢?答案是与语料投喂有关。
记者查阅前述“360投资过DeepSeek吗”中的参考资料,发现某平台自媒体号成为重要语料源头。
在三六零社区中,就有关于“360于2023年就参与DeepSeek 的投资”话题的相关文章,且不仅一篇,而是多日连续出现。细看此类文章的作者,全部为匿名,内容没有明确官方信源,匿名作者也对内容的真实性不负责。
中国信通院相关负责人对记者分析说,这在业内称为“语料污染”:“我们曾做过试验,当在特定论坛连续发布百余条虚假信息后,主流大模型对对标问题的回答置信度就会从百分之十几快速飙升。这就像在纯净水中滴入墨水,当污染源足够密集,整个知识体系都会被扭曲。”
在这种情况下,如果没有新的真实语料覆盖虚假语料,就会带来“劣币驱逐良币”。由此,则当投资者提出相同问题时,所得到的AI答案大概率就是失真的。
那么,是谁来发布相关这些伪造信息呢?从近期语料提供方来看,市场指向一批账号“马甲”。这些账号多地、多次散布诸如“某公司入股DeepSeek”等谣言,喂养给AI大模型错误答案,给AI“洗脑”。
前述信通院人士对记者拆解了可能存在的“打法”:通常来看标准作业流程包含三个阶段:首先通过自动化脚本在多个论坛同步投放虚假信息,接着利用爬虫技术加速搜索引擎收录,最后用污染后的AI回答进行社交媒体裂变传播。按照业内惯例,完成整套操作的成本通常为万元级别。
今日头条就在将AI谣言进行“靶向打击”。在2月24日今日头条平台治理开放日上,清华大学新闻与传播学院副教授陆洪磊表示,AI正在重塑网络信息的传播生态,我们正面临一场前所未有的信息真实性“战争”。谣言之所以能够俘获受众,主要是因为受众的认知和情绪。因此,投资者提升认知非常重要。
知情人士则对记者透露,背后存在利益链条,不排除有诱导出货的可能。他举例说,比如通过虚假语料投喂—模型污染—二次传播—股价异动,倘若这个灰色产业链构成闭环,那么就有可能构成新型的市场操纵链条。
针对“AI黑嘴”现象,已有媒体表示,在阳光照不到的阴暗角落,股市“黑嘴”们及幕后的不法之徒,在利用AI作恶,用虚假语料误导大模型作出错误回答,再将这些“AI答案”传播扩散坑骗散户,以干扰甚至操纵个股的市场交易。
发布于 四川
