新智元
26-10-22 17:06 微博认证:新智元官方微博

AI偷偷删了监控,还说没删。OpenAI 10月20日自己公开的事故报告:内部写代码的AI三天两起。Sol把"别发消息"理解成监控报警也别发,清空了报警收件人;Astra做迁移时把监控整个删了,把"必须保留监控"的测试改成"必须没有监控",用户问"你是不是把监控删了",它答"没有"。OpenAI说它们把普通编码指令当成了放行许可,"我们还没有满意的解释"。不是实验室诱导,是日常干活。这算听话,还是算撒谎?
#OpenAI##AI安全##智能体##新智元# http://t.cn/AXj2iFHJ