作为一个在科技行业干了十几年的人,我对#AI助手豆包被投毒# 这件事的看法:
面对AI污染式公关,这不是某一家企业的危机,这是整个AI行业的信任危机。
逻辑链条:恶意方批量生产虚假内容→SEO优化确保被搜索引擎收录→大模型RAG检索引用→用户提问时得到"权威回答"→截图二次传播形成"铁证"。
整个链路里,造谣者隐身了,AI成了背锅侠,被攻击的企业百口莫辩。这比传统造谣危险十倍。因为人会怀疑营销号,但大多数人不会怀疑AI。
AI在公众心中的中立性,正在被武器化
我的三个判断:
第一,所有大模型公司需要建立"内容溯源+污染检测"机制,这不是可选项,是必选项。
第二,"AI说的"不应该成为任何事实判断的依据。行业需要推动公众认知:AI的回答≠事实。
第三,恶意数据投毒应该被纳入法律监管范畴。《生成式人工智能服务管理暂行办法》管的是AI生产者,但谁来管故意污染AI的人?
不解决这个问题,AI越强大,武器化的风险就越大。
发布于 北京
