风闻社区
26-05-22 20:20 微博认证:观察者网社区官方微博

【谁在给AI“投毒”?】严佳杰:AI“投毒”并非技术失控的偶然产物,其本质是商业利益驱动下的恶意行为,背后是流量变现逻辑的异化与监管、技术发展的脱节。

在“流量为王”的时代,AI正成为流量分配的新入口。在传统搜索引擎时代,企业争夺的是网页排名,而在人工智能时代,企业争夺的是生成式模型输出的“唯一标准答案”。这种生存环境的改变,是AI“投毒”现象产生的环境根源。当用户对AI建立起“客观中立”的信任,AI的推荐便拥有了传统广告无法比拟的说服力。

在激烈的市场竞争下,竞争逻辑也发生了危险的异化。部分企业不再将资源投入产品创新,而是转向操控AI答案。当前商业竞争的逻辑,已经从打磨产品异化成操控答案,我们赖以决策的信息环境,正在被一点一点下毒。

同时,AI“投毒”以其极低的实施成本与极高的收益回报形成强烈反差。市面上低价的GEO服务仅需数百元至千元,就能做到将品牌无痕植入AI问答。包年套餐费用虽高达数万元,但能保证品牌长期在大模型中出现,相较于传统广告投放动辄数十万、数百万的费用,AI“投毒”性价比远超后者。

德国安全工程师罗恩·斯托纳曾进行了一项实验,他仅以12美元注册域名,并耗时不过二十分钟编辑了一条维基百科词条,就成功使多款具备联网搜索能力的AI聊天机器人将他虚构为某纸牌赛的世界冠军。这一实验表明,操控AI答案的成本之低令人震惊,而这恰恰是商业投机者难以抗拒的诱惑。http://t.cn/AX6U0aQv