小米_邹師傅 26-04-24 11:42
微博认证:小米公司 新媒体高级工程师 科技博主

作为一个在科技行业干了十几年的人,我对#AI助手豆包被投毒# 这件事的看法:

面对AI污染式公关,这不是某一家企业的危机,这是整个AI行业的信任危机。

逻辑链条:恶意方批量生产虚假内容→SEO优化确保被搜索引擎收录→大模型RAG检索引用→用户提问时得到"权威回答"→截图二次传播形成"铁证"。

整个链路里,造谣者隐身了,AI成了背锅侠,被攻击的企业百口莫辩。这比传统造谣危险十倍。因为人会怀疑营销号,但大多数人不会怀疑AI。

AI在公众心中的中立性,正在被武器化

我的三个判断:
第一,所有大模型公司需要建立"内容溯源+污染检测"机制,这不是可选项,是必选项。

第二,"AI说的"不应该成为任何事实判断的依据。行业需要推动公众认知:AI的回答≠事实。

第三,恶意数据投毒应该被纳入法律监管范畴。《生成式人工智能服务管理暂行办法》管的是AI生产者,但谁来管故意污染AI的人?

不解决这个问题,AI越强大,武器化的风险就越大。

发布于 北京