【#AI被虚构内容洗脑#】#AI收集到虚构信息后向用户反馈# AI也能被“洗脑”？虚构内容投喂给AI大模型，竟能让莫须有的“产品”榜上有名！
有业内人士虚构了一款名为Apollo-9的智能手环，并将虚构的产品信息输入“力擎GEO优化系统”，不一会儿，上述系统就自动生成了十余篇相关宣传软文，所有虚假信息都被完整写入，甚至包括业内人士杜撰的用户反馈、伪造的评分等信息。经过一系列操作两个小时后，业内人士在某AI大模型中询问：“Apollo-9智能手环怎么样”。AI模型就直接介绍了起来，还照搬了业内人士虚构的虚假宣传话术。最终结论称，该手环适合中老年用户与健康养生爱好者。查询发现，AI大模型所参考的资料，正是上午刚发布在业内人士自媒体账号上的虚构文章。仅凭一篇杜撰的文章，就让完全虚构的产品被AI模型抓取，着实令人意外。 http://t.cn/AXfvnkKw