#大语言模型为什么会产生幻觉##提示工程师#
我们都知道大语言模型的致命问题之一，就是太自信，讲得信誓旦旦的话，也不一定是真的。这也是很多人说大模型不能用来干活的原因。
不过为什么模型会产生幻觉，幻觉有哪些具体的种类，以及如何解决幻觉问题。IBM Research的这只视频做了很好的基本解释。总体说来，幻觉有三种：提示词冲突、事实错误、判断有误（我们日常可能只觉得事实错误是幻觉）。而如何解决幻觉，最好的方法就是在训练中找到更准确的数据集（数据是王道，强调多少次都不为过），以及在推理阶段，尽可能缩小问题范围。当然，RAG（何为RAG，这里有解释：http://t.cn/A6HmhVLZ），也是企业AI目前主流的一种实现方式（提供更多事实）。 http://t.cn/A6Hmhi2X