今天 OpenAI 联合创始人布罗克曼接受深度专访,聊了新模型 Astra 的训练情况,这是第一个在超过 10 万张 GPU 上完成训练的模型,他直接表态行业已经迈入 AGI 时代。这次训练的工程难度不小,十万块 GPU 协同训练,要解决算力集群通信、算力调度、故障自动隔离一大堆工程难题,不是单纯堆硬件。
Astra 重点强化了使用电脑的能力,AI 能自主操作电脑软件,完成跨软件的连续任务,而不是单次问答。当然这个说法行业争议不小,不少研究者并不认同现在已经达到 AGI,认为只是复杂任务智能体能力提升。布罗克曼也承认,模型依旧会犯常识错误,安全对齐工作依旧繁重。这次采访也能看出 OpenAI 现在重心,不再只比拼文本生成能力,重点攻坚 AI 自主使用工具、操作电脑这类真实任务。算力规模是一方面,怎么稳定调度十几万 GPU 协同训练,本身就是很大的工程挑战。
发布于 福建
