澎湃新闻 26-01-29 20:38
微博认证:澎湃新闻官方微博

【澎湃漫评|#AI一本正经胡说八道谁来担责#?】#全国首例AI幻觉案# 一位高考生的哥哥梁某在查询高校信息后,发现AI平台生成的信息存在错误,AI还表示,内容有误将赔偿10万元。一气之下,梁某将AI平台的研发公司告上法庭。近日,杭州互联网法院作出一审判决,驳回诉讼请求。

这起全国首例AI幻觉案,引发了广泛讨论。法院的判决依据是,AI不是一个民事主体,所以它不能作出意思表示。那为什么提供AI服务的公司也不负责呢?主审法官认为,“在本案的咨询问答场景中,我们认为不能视为服务提供者的意思”。这起判决可以带来多重启示。

首先,在当前技术条件下,AI幻觉仍不可避免,法院的判决可以视为对技术创新的一种保护;其次,对公众来说,AI生成内容可以作为参考,但切不可盲信;再次,AI技术的迅猛发展已经给现行法律带来了挑战,必须以前瞻性眼光予以规范。http://t.cn/AXqWByBz