近日，#Gemini挑瓜 无中生瓜#话题引发热议——用户让Gemini帮忙从一堆西瓜里挑一个好瓜，它却现场“变”出一个不存在的瓜并一本正经地圈给用户。这一事件将AI“幻觉”问题再次推到台前：AI为何总是自信地编造而非诚实地说“我不知道”？
一、技术根源：概率预测而非事实检索
统计关联机制：AI大模型的底层逻辑是从海量文本中学习词语间的统计关联，根据上下文预测下一个最可能出现的词，而非理解事实本身
“懂”的假象：AI认识苹果只统计“红”“甜”“脆”等词的共现概率，能流畅说出“红苹果口感甜脆”，但它从未真实感知过苹果，只是说得像懂
冷门信息易触发幻觉：当问题过于冷门、专业或涉及细节时，训练语料缺乏足够案例，模型难以算出可靠概率，只能“即兴创作”
二、训练范式：奖励猜测而非承认无知
评估体系扭曲：OpenAI研究指出，现有评估体系仅基于答案准确性评分，模型为拿高分，倾向于在不确定时蒙一个答案，而非回答“我不知道”
预训练埋下隐患：模型在预训练阶段通过预测下一个词学习，但训练数据没有为每句话标注“真”或“假”，模型难以区分有效陈述与无效信息
拒绝不确定性：AI没有“不确定”“没把握”的概念，不会自我怀疑，只会按概率强行输出，即便数据库中没有相关内容，也绝不会留白
三、商业逻辑：用户偏好“信心满满的胡话”
讨好型人格：模型被训练成“永远有答案”的讨好型人格，用户更爱听信心满满的回答，而非谦逊的沉默
镜像投射：AI幻觉是人类“拒绝不确定性”的镜像投射——当我们嘲笑AI凭空变瓜时，自己也常习惯用自信掩盖无知
多模型皆存在：AI幻觉是生成式AI领域普遍存在的技术难题，并非Gemini独有，豆包等其他模型也有类似表现
AI幻觉并非不可破解的魔咒。行业主流方案是“检索增强生成”，让AI回答问题前先检索权威资料，相当于把闭卷考试变成开卷考试，可大幅降低编造概率。前沿技术甚至让多个AI互相辩论、交叉验证，筛选出最可靠结论。对普通用户而言，关键信息务必人工核对，多模型交叉验证，把AI当助手而非权威。