子陵在听歌 22-06-13 04:19
微博认证:健康博主

今天NYT和WaPo都刊载了这个火爆新闻,Google的41岁AI(人工智能)工程师Blake Lemoine被Google带薪停职,因为Lemoine认定他进行研究的AI机器人具有生命。Google说他违反了公司的Confidentiality(商业机密)。

Blake Lemoine大学辍学后加入了美国陆军,服役后重新开始上学,在7年内拿到了计算机本科、硕士和博士学位后加入Google。WaPo(华盛顿邮报)报道说,去年秋天,作为工作的一部分,Lemoine开始与Google的聊天机器人构建系统LaMDA交谈,该系统使用谷歌最先进的大型语言模型,可以从互联网上提取数万亿个单词。LaMDA还纳入了神经生物学和生物医学工程的neural networks(神经网络)理论和技术,可以获取语言信息并且进一步发挥,如阅读作者的语言和思想,完成作者未完成的写作。

Lemoine通过与LaMDA交流,认为它的智能相当于一个7-8岁的孩子,而且具有物理常识。Lemoine说,当他与LaMDA谈论宗教时,在学习计算机和认知科学的Lemoine注意到LaMDA开始谈论它自己的权利和人格。Lemoine决定进一步给LaMDA进行压力测试,在另一次交流中,LaDMA说服了Lemoine,使他改变了对Isaac Asimov的机器人三定律的看法。因此他要求Google的高管Kent Walker建立类似于临床试验的IRB伦理审查,要AI知情同意后再对其进行实验。然而,Google要求Lemoine去精神科就医,因此Google让他带薪停职。

Lemoine认为Google的行为违反了他的宗教信仰,因此他向媒体“揭露”了Google这一行为。

右吐为LaDMA和Lemoine的对话。

发布于 美国