蚁工厂
26-07-16 20:12 微博认证:科技博主

技术博客:在 Mac 上进行强化学习后训练
http://t.cn/AXKTwJMx
闲置的个人设备能参与大模型训练流程里吗?
Pluralis 做了这个测试。他们用 14 台分布在四个国家的 Mac,为一个 8.3B 参数 MoE 模型生成强化学习 rollout,再由远端单张 NVIDIA B200 负责训练。

用14台Mac是因为这14 台 正好替代了这次 RL 后训练中 rollout 侧所需的一组数据中心推理算力,让 1 张 B200 可以持续训练而不等数据。

发布于 山东