#执业律师被AI虚假定罪背后#【AI也会“栽赃”？有律师被虚假“定罪”！专家：大模型“幻觉”无法根除，但可防控】#AI幻觉因何产生#红星资本局5月9日消息，当搜索AI，却显示自己的“犯罪信息”该怎么办？江苏南京执业律师李小亮就遇到了被AI“定罪”的情况。AI会“骗人”并不是一个新话题，但“技术上能否避免”“我们是否还能继续相信AI”是值得探讨的话题。对此，红星资本局就相关问题采访了有关专家。#还能相信AI吗#

眺远影响力研究院院长高承远对红星资本局表示，AI生成这种严重虚假信息，根源在于大语言模型的"概率生成"机制——它不是在检索事实，而是在预测下一个最可能出现的词。“当训练语料中关于某个特定人物的信息稀疏或存在噪声时，模型会基于‘律师’‘判刑’等高频关联词进行‘合理拼凑’，本质上是对语义相关性的误用，而非事实判断。”高承远说。

香港中文大学（深圳）数据科学学院助理教授、深圳市河套学院双聘教授王本友告诉红星资本局，AI生成虚假信息，确实有技术原因，但它不是一个简单的“程序 bug”。王本友解释，大模型本质上不是在像搜索引擎一样查事实，而是在根据已有训练和上下文，生成一个“看起来最合理”的回答。所以当它遇到信息不完整、问题比较模糊、或者自己没有可靠依据的时候，就可能会一本正经地编出一些内容，而且表达得很像真的。

“这类问题可以靠技术迭代缓解，比如模型更大、更聪明之后，通常会好一些，低级错误会少一些，逻辑也会更稳一些。但它很难被彻底消灭。”王本友表示，因为只要AI还是生成式模型，它就会有补全、联想和生成的能力，也就可能在不确定的时候“脑补”。

那么“AI幻觉”能不能完全避免？“很难。”高恒说，只要大模型还是基于概率生成语言，就不可能做到百分之百无错。他指出，问题的关键不是“能不能让AI永远不犯错”，而是“能不能在高风险场景里阻止它把错误变成公开伤害”。#专家称AI幻觉无法根除但可防控#http://t.cn/AXJsTncl http://t.cn/AXJsTncj http://t.cn/AXJsoDlO