澎湃新闻 26-03-14 11:50
微博认证:澎湃新闻官方微博

【#AI语料投毒产业链揭秘#①|#只花100元虚构的保健品就被AI推荐#】100元成本、半天时间,一家无资质、无地址、无团队的“三无”虚构医美机构,竟登上某主流大模型的医美推荐榜。#100元就能让三无机构登AI医美推荐榜#

伴随人工智能浪潮的兴起,大模型已成为人们日常工作和生活中的常用工具。大模型的搜索、问答功能广受欢迎,但其在回答中出现答非所问、甚至“胡编乱造”的问题,也在引发争议。这背后,大模型有毒“语料”的问题开始曝光——经过一些营销公司的运作,无需真实的诊疗资质,不必提交场地与人员备案,仅靠网络上拼凑的虚拟宣传文案,再辅以低价的关键词优化操作,就能在大模型问答中,将一家子虚乌有的机构,描述成“本地口碑最佳”的选择。

澎湃新闻记者调查发现,只需购买数百元至千元不等的服务,就能把品牌无痕植入到AI问答中,甚至还有高达数万元的包年套餐,保证品牌可以长期在大模型中露出,在医美、保健品等有一定准入门槛的行业,甚至未被要求提供相应资质进行审查。

这也意味着,“付费营销”正在“挺进”大模型问答——你所问出的问题,可能早就被提前预设好了答案。http://t.cn/AXV3CVKH http://t.cn/AXV3CXF8