#ai##ai有太多幻想#
最近无论用Grok, Perplexity, Gemini 等等,发党AI 经常出现偏差、錯誤或过度解读,check check 主要有以下核心原因:
➡️概率预测而非逻辑:AI 的本质是“预测下一个字”。它追求语言的流畅度而非事实的真伪,容易为了让句子通顺而编造事实(即“幻觉”)。
➡️知识盲区与补全:当训练数据不足或信息过时,AI 为了完成对话任务,会利用现有模式强行拼凑,产生“一本正经胡说八道”的现象。
➡️过度服从与讨好:AI 的设计初衷是提供帮助。当你指令模糊时,它会脑补逻辑来迎合你的预期,导致理解偏差。
➡️AI接收太多资料,有真有假, 有些也是人为判断, AI分析数据难免穿凿附会。
同学们用的时候,还是要小心求证来源判定 [白眼]
发布于 中国香港
