馍兽
26-10-04 18:22 微博认证:微博新知博主 数码博主

#离职员工爆料OpenAI风险意识不足#近日,在OpenAI安全系统团队内负责安全透明度的负责人戴维·鲁滨逊已于上周离职。并在《The Atlantic》月刊发文,批评OpenAI风险意识不足、企业文化已经烂掉了。

鲁滨逊自称在OpenAI工作约3年半,是公司任职最久的员工之一。他参与起草了公司的风险应对框架,并负责监督12次前沿模型发布的安全评估报告。他在文章《我辞去OpenAI的工作,因为企业文化已经烂掉了》中表示,公司忙着从一次产品发布跳到下一次,未能达到他认为必要的审慎管控水平。

他说OpenAI长期依赖迭代部署模式——先发布模型,再根据实际问题修补安全措施。他认为这种方式在早期模型能力较弱时可以接受,但随着AI具备更强自主行动、工具调用和长期任务执行能力,错误可能无法事后弥补。

发布于 陕西