NaturePortfolio
21-12-19 08:00 微博认证:Nature Portfolio官方微博

【Timnit Gebru——AI伦理先锋】人工智能(AI)伦理研究员Timnit Gebru说,她过去的一年就是一团糟。去年12月,Timnit Gebru与谷歌发生纠纷——与谷歌对她的工作审查有关,随后她被谷歌解雇。消息一经传出便震惊了许多研究人员,数千名研究人员一起声援Timnit Gebru,她所担心的问题——AI技术对黑人的歧视以及对社会边缘群体造成的伤害——也持续发酵。#Nature2021年度十大人物# http://t.cn/A6xEg0Wr

今年12月2日,她成立了一家不依附大型科技公司的AI研究所——分布式AI研究所(Distributed Artificial Intelligence Research Institute)。她说,过去一年发生的事反映出人们愈发意识到AI犯的错误不能单纯地视为技术问题,而应被看作是有缺陷的开发环境所导致的现象。

在斯坦福大学读博期间,她与计算机科学家Rediet Abebe创立了一个小组,名为Black in AI。在微软工作期间,她和计算机科学家Joy Buolamwini发现,面部识别软件在识别白人男性以外的人群性别时表现不佳,驱使人们更加关注AI中的偏见。

Gebru于2018年加入谷歌,并与Margaret Mitchell共同领导了该公司的AI伦理团队。她们因给公司的黑人和黄种人研究员创造友好的工作环境而备受赞誉。她们的团队研究了AI的潜在危害,帮助谷歌产品团队反思其技术存在的社会风险,并倡导员工的构成更具多元化和包容性。

Gebru说,她早就有自己成立研究所的想法,她希望构建一个AI应该如何运作的正面模型。她从多家慈善组织获得了370万美元的资助,从而实现了这些梦想。她的研究所将不依赖大公司的大数据集和运算能力,独立开发AI模型和应用。

图片来源:Djeneba Aduayom