【#Meta被曝让外包人员诱导对手AI聊敏感话题#】据《连线》报道,根据 Meta 内部文件及五名知情人士透露,数百名参与 Meta 某项目的外包人员在网络上伪装成未成年人,以此来探测竞争对手的聊天机器人会如何回应涉及自杀、性、进食障碍及其他高风险话题的提示词。
Meta 在一份声明中对此进行了辩护,称其为常规的安全测试。Meta 发言人在声明中表示:“对聊天机器人的回复进行测试和基准测试,有助于确保提供安全且适龄的用户体验,这是一项负责任的行业标准做法。任何相反的观点都完全误解了科技公司为完善和改进其系统所做的工作。”
该发言人还强调,公司不会使用针对竞品的基准测试数据来训练自家的 AI 模型。(IT之家)
