#Nature封面故事# 【网络与大语言模型中的性别扭曲】我们对世界的认知日益受到网络媒体的影响,它们会强化社会刻板印象、扭曲我们的观点。人工智能的兴起,特别是利用在线内容训练的大语言模型,会进一步放大这种扭曲作用,引人担忧。在本期《自然》中,Douglas Guilbeault和同事(相关链接:http://t.cn/AXAyT64R)提出了证据,表明这种担忧并非空穴来风。研究团队调查了5个主流网络平台上的140万张图像,分析了不同职业中男性和女性形象的呈现。他们发现,女性在各种职业与社会角色中都呈现得比男性更年轻,尽管在真实世界职场中并无系统性差异。团队随后让ChatGPT生成4万份简历,发现它也同样将女性呈现得比男性年轻。随后,当要求ChatGPT评估这些简历时,它认为年长男性候选人优于年轻女性候选人。这凸显出现有的性别刻板印象:年长男性被视为成熟、权威且经验丰富,而女性的价值则在于年轻、有吸引力。这还表明,尽管人们在努力消除AI训练中的偏见,但AI模型仍保留此类刻板印象并将继续维持下去。
本期封面:http://t.cn/AXAyT648
封面图片:Kelly Krause/Nature; 改编自Shutterstock/Master1305。
发布于 河北
