经济观察报 25-02-25 17:24
微博认证:经济观察报官方微博

#有账号多地多次散布谣言喂养AI大模型#【#揭秘AI操纵A股新方式#】假如在纳米AI搜索输入“三六零(或360)投资过DeepSeek吗?”的提示词,其给出的答案令人吃惊。答案显示,在2023年首轮融资中,360集团作为早期投资方之一,联合多家机构共同支持DeepSeek的AI技术研发。不仅只有三六零一家公司“投资过DeepSeek”。近期,慈星股份、华胜天成、并行科技、诚迈科技等多家公司,都成为AI问答截图中的角色。以慈星股份为例,AI回答中明确,这家公司“早期投资了DeepSeek”,相关内容与涉三六零回答高度相似。但这些答案明显经不起检验。无论是比对工商信息,还是企查查等第三方平台,这些所谓的“公司为DeepSeek股东”子虚乌有。

那么是什么原因导致这些错误回答呢?答案是与语料投喂有关。中国信通院相关负责人对记者分析说,这在业内称为“语料污染”:“我们曾做过试验,当在特定论坛连续发布百余条虚假信息后,主流大模型对对标问题的回答置信度就会从百分之十几快速飙升。这就像在纯净水中滴入墨水,当污染源足够密集,整个知识体系都会被扭曲。”

那么,是谁来发布相关这些伪造信息呢?从近期语料提供方来看,市场指向一批账号“马甲”。这些账号多地、多次散布诸如“某公司入股DeepSeek”等谣言,喂养给AI大模型错误答案,给AI“洗脑”。

从近期案例来看,误导大模型并非“黑嘴”炮制虚假内容的最后环节,他们往往再会将AI回复截图作二次传播,这样AI大模型就成为这些黑嘴的“嘴替”。北京某私募人士则对记者透露,背后可能存在利益链条,不排除有诱导出货的可能。他举例说,比如通过虚假语料投喂—模型污染—二次传播—股价异动,倘若这个灰色产业链构成闭环,那么就有可能构成新型的市场操纵链条。(证券时报)