PS大众科学
26-09-07 12:42 微博认证:美国著名科技杂志《大众科学(Popular Science)》中文版

【AI搜索生成的答案全都靠谱吗?别被骗了!最新调查实测:#近三成搜索结果是AI自己编的#】

让 AI 直接给出现成答案几乎成了当下人们进行网络搜索的默认选项。但你是否想过:这些生成出来的结果真的全都靠谱吗?

今年新出炉的一项针对谷歌 AI 上万条生成结果的研究显示:有 11% 的内容没有取得标注引用内容来源的支撑,普通用户只看 AI 生成的摘要根本意识不到可信度问题。

但这还不是人们利用 AI 搜索最容易踩坑的地方。欧洲广播联盟(EBU)的专项调查显示,在各国主流 AI 搜索助手的回答中,‌除了 31% 存在严重信源问题外‌,还有约 20% 存在明显准确性问题,叠加其他类型的内容偏差,导致近三成结果属于 AI 自行编造的无事实、无依据内容。

目前 AI 搜索的底层逻辑是:先把复杂问题拆成多个子搜索,然后分头抓取相关网页资源‌,或是直接调用内置的知识库数据进行处理,最后整合内容输出成聊天式答案。AI 模型在选源时不会只看网页的搜索排名,相反,它会优先选中与你问题匹配度最高的小众来源,哪怕内容平时没人看也可能被优先调用。即便 AI 找不到有效内容,也会硬从训练数据里凑出一套看似完整的答案,并用非常肯定的语气输出,你甚至发现不了它是“凑出来的”。

要知道,多步合成的流程里每一环都可能出错:要么一开始 AI 就误解了你的提问,要么找到的是错误、过时的无效信息,甚至还可能把几个不相关的内容拼凑在一起,产出逻辑矛盾的结果。这也是很多时候 AI 输出结果和引用内容对不上的原因,你不亲自手动点击引用来源链接去核对,根本发现不了。

做好这几步就能避开绝大多数不靠谱的 AI 搜索结果:重要问题优先找公认的权威平台核对信息,对 AI 整合出来的二手结论要始终保持警惕;养成点开引用链接核验内容原始来源的习惯;去实体场景之前要二次从官方渠道确认关键信息,例如到地铁官方的小程序上查询首末车时间,在景点官方页面了解票价和配套设施情况。