锚点|AI发展太快,规则为什么不能等?
#微博视频号续航计划#
薛澜:我们现在其实还是面临很多挑战,首先一个大的问题就是技术发展和治理的响应。人工智能技术发展得太快了,我们的治理跟不上。应该说过去这些年,技术的扩散,我们讲是几十年它才能够在全社会广泛地使用。但是现在的话,这个是说获得一百万用户所用的时间,ChatGPT可能短短几个小时。所以从这点来讲,你跟不上,你原来的一些具体的治理措施隔了半年、一年,(形势)已经就变了。
沈姝艳:您提出过人工智能治理三阶段论,第一是回应式治理,集中治理,还有一个敏捷治理。那和传统行业的监管模式相比,您觉得这个敏捷治理有何不同?
薛澜:因为人工智能技术发展特别快,所以治理速度总是跟不上的。在这种情况下,我们就得放弃传统的观念。原来我们讲治理都希望制定一个非常全面、完整、准确的规则来去治理这个技术,但是现在你要制定一个全面、完整、准确的规则可能需要五年、十年,等你这个规则出来以后,那个技术早就不知道跑到哪里去了。所以在这种情况下,我就得放弃这种观念,你可能哪怕就是不太完整,可能一开始甚至都不太准确,你也得要赶快出台一个治理文件,这样的话使得技术不要跑偏了。当然你在这个过程中,你可以不断去更新。所以首先理念的改变,这是第一个。
好比说举个例子 ,就像生成式人工智能。我们第一稿规则出台的时候,要求生成内容百分之百都是准确的。其实我们做不到,它可能因为这个模型有幻觉,它可能会有这个问题,所以后来实际上我们现在要求的是百分之九十五,准确程度。所以这就是一个权衡,因为你如果要百分之百,可能对很多企业来讲,它说我们就没法用大模型了,没办法生成大模型了。所以这就是一个典型的例子。
第二点就是,你要改变政府和企业的关系。因为原来政府作为规制者,企业作为被规制者,原来的关系是猫和老鼠的关系。这个关系是一个博弈的关系,是一个对立的关系。那我们讲现在人工智能技术的发展的话,有很多前沿的发展情况可能带来的风险,政府不知道,企业也不知道,所以我们讲叫面临共同无知的情况。所以在这种情况下,最好的策略是政府和企业一起来合作。政府说什么地方你往前走,其实有些不确信,我同意你,但是同样我也告诉你,我的底线是什么。这样的话,企业也可以跟政府说,我这个可能往前走有哪些风险,你觉得我们可不可以试试,那这样的话,因为是大家共同来合作,能够推动技术的发展,同时也能够保证它的安全。
第三个,就是治理工具的应用。但人工智能治理由于前面的这种不确定性,也许可能有些情况出现的话不是企业有意而为之的,所以在这种情况下,可能我们就也许要轻轻地推一下各种柔性的工具去治理。
《锚点》节目上海广播电视台沈姝艳记者对话清华大学人工智能国际治理研究院院长薛澜教授,东方卫视2026年7月15日播出。本片为精彩片段之二,25分钟的全片可见于上海广播电视台“看看新闻”网站(http://t.cn/AX0yNuWL)、app、视频号以及哔哩哔哩(http://t.cn/AX0yNuWA)。#微博科普##微博公开课##微博新知##人工智能##锚点##治理##敏捷治理##生成式人工智能# http://t.cn/AX0OH2cn
发布于 安徽
