经常用 AI 的朋友都知道。AI 有两大经典问题。

一是情绪价值给太足。
你说什么它都“对对对”，很少真正反驳你。

二是幻觉。
一本正经胡说八道，而且说得特别像真的。

最近南京李小亮律师，因为被某度 AI 幻觉“判刑”，打赢了和某度的官司。

某度搜索“李小亮律师被判几年”

结果 AI 直接生成，“因爆炸罪被判有期徒刑三年。”

甚至还配上了李律师本人的照片。

这事根本不存在。

法院最终认定，相关内容足以降低社会评价，构成名誉侵权。

这个案子重要的地方在于，AI 幻觉已经开始从“技术笑话”，变成现实世界里的法律问题。

以前互联网时代的问题是“有人造谣”。

现在 AI 时代的问题是：

AI 自己开始“造谣”。

而且最危险的是，它不像网友发帖。
它是用一种“官方回答”的语气，一本正经地胡说八道。

普通人看到这种内容，第一反应不会是大模型概率幻觉。

只会觉得他应该真的坐过牢。

不过这个案子其实也有点可惜。

法院还是主要按传统名誉权路径处理：

错误信息 → 社会评价降低 → 构成侵权。

但更深的问题还没真正展开。

比如某度在这里，到底只是“信息平台”，还是已经同时属于 AI 服务提供者/AI 内容生成者/AI 内容分发者，分别要承担什么责任。

还有一个关键问题。

法院 AI 幻觉具有“偶发性”。

但未来一定会出现一个更核心的法律问题：

AI 幻觉到底是暂时的技术缺陷，还是大模型架构里天然不可避免的问题？

如果是后者。

那平台未来应该承担什么程度的审核、校验和注意义务，可能会成为 AI 时代新的法律焦点。

但无论如何。

李律师能以个人身份打赢某度这种级别的大厂，本身已经是 AI 时代个人维权一个很重要的胜利了。

而 AI 产生的新问题，也值得我们继续观察和讨论。
#律师开放麦#