AI也有性别刻板印象
联合国妇女署6月22日发布了一份警告：人工智能正在复制和放大性别偏见。

一项覆盖133个人工智能系统的研究发现：44%的系统存在性别偏见，26%的系统同时存在性别和种族偏见。

更具体地说，大型语言模型会系统性地将女性与“家庭”“孩子”联系在一起，而将男性与“商业”“高管”“薪水”和“职业”联系起来。

当被要求补全涉及性别的句子时，约20%的AI回应表现出性别歧视或厌女倾向——包括将女性描绘为性对象或男性的附属品。

换句话说，每五次对话，可能就有一次，AI在偷偷告诉你：女人属于家庭，男人属于世界。

这不是技术故障。

联合国妇女署说得直白：这些偏见不是bug，而是AI基于长期存在的性别不平等数据训练所产生的必然结果。

AI学的是我们喂给它的东西。

互联网上几十年的文本、新闻、书籍、社交媒体——这些数据里本身就有些藏着人类社会最陈旧的性别偏见。AI只是把它们整理、放大、然后自动运行了出来。

联合国妇女署数字技术负责人Jayathma Wickramanayake说了一段很重的话：“我们总把AI的偏见说成是下一个版本就能修复的bug，但现实是——它不是bug，它是选择。是我们在训练数据里、在设计室里、在对一半人口保持沉默的政策文件里，一次又一次做出的选择。”

偏见不是技术问题。偏见是人的问题，被算法化了。#ai #性别刻板印象 #不定义#