新京报
26-05-09 21:58 微博认证:新京报官方微博

【律师被AI错认判刑 #AI幻觉不是平台免责牌# | 新京报快评】#律师被AI错认判刑平台无法免责# “AI幻觉”再起风浪。据报道,江苏南京一位律师发现,在一款搜索类App和网站搜索其个人信息时,“AI智能回答”竟然给出“该律师被判三年有期徒刑”的错误文字内容,并配有该律师身着律师袍的照片。近日,这起“中国人工智能大模型侵权第一案”经法院两审终审,认定平台构成名誉侵权。这一判决结果,不仅是对个案当事人的法律救济,更是司法实践对AI技术应用边界与平台责任的一次重要界定。

随着人工智能技术快速融入社会生活,各类AI生成内容井喷式出现。AI平台公司在技术迭代上多追求“快”字当头,但法律规范、伦理约束却又要求“稳”字优先。这之间,难免出现矛盾甚至冲突。本案中,平台方面辩称,“AI幻觉”具有不可预见性,且处于“技术发展初期”。这一说法虽反映了当前的技术现状,却混淆了“技术局限”与“责任豁免”的界限。

类似纠纷并非个例,“AI幻觉”引发的侵权问题已具有普遍性。这也提醒整个行业,必须加快建立健全AI生成内容标识、溯源、纠错机制,从技术、运营、法律等多层面筑牢“防火墙”。监管亦需与时俱进,完善相关规范,为AI应用划清红线。全文戳↓↓ http://t.cn/AXivAn12