煕煕姸姸
26-10-16 10:34 微博认证:数码博主 超话小主持人(Apple超话)

Apple详细介绍了一套名为Minions的全新系统,该方案可以调用搭载Apple芯片Mac电脑当中处于空闲状态的GPU资源,搭建虚拟GPU算力集群,将多台设备闲置的运算能力整合在一起,处理高复杂度的AI任务。

Apple将Minions定义为动态虚拟GPU云,能够聚合多台Mac上闲置的Apple芯片GPU,主要面向有大规模机器学习推理任务需求的团队,Apple内部研究人员已经在实际工作当中启用这套系统。

这套方案背后的思路十分清晰,Mac内置性能强劲的GPU,但在日常办公场景下,绝大多数时间GPU资源都处于空闲状态。

Minions正是为了挖掘这部分没有被利用的算力,把原本闲置的多台Mac,转变为可用于AI运算的算力集群。

Mac mini与Mac Studio本身就支持借助雷雳5,通过远程直接内存访问(RDMA)技术实现设备集群互联,高带宽线缆能够将多台机器的算力与内存资源合并,共同承载同一运算任务,而Minions正是在这一基础理念之上进一步拓展而来。

Minions系统主要由四大核心组件构成,Minions服务器作为整个集群的中央调度中心,依托网页界面与各类API接收运算请求,任务下发之后会存入PostgreSQL元数据存储队列等待执行。

Minions执行端运行在提供GPU算力的macOS设备本地,调用Apple芯片GPU完成子任务运算,并将运算结果保存至存储介质。

一旦遇到网络中断、断电等故障,看门狗组件会识别失败任务,重新将任务分配给其他可用设备继续运算,全部任务进度都可以在监控面板实时查看。

Apple表示,实际使用经验已经证明,macOS设备能够按需改造成为分布式GPU推理平台。

根据Apple测试数据,部分原本需要十小时以上才能完成的推理任务,借助这套系统仅需数分钟即可跑完,无需额外购置大量算力硬件,并且能够轻松扩展集群规模。

虽然Mac集群硬件原生的高速互联依靠雷雳接口,但Minions方案并不强制要求雷雳连接。

不难设想,企业办公环境内大量Mac,都可以在闲置时段贡献GPU算力。

对于企业用户而言,这套方案的优势非常明显,无需采购新硬件就能大幅缩短AI运算耗时,在算力硬件价格持续走高的当下具备很高实用价值,这也会成为企业更新设备时选择Mac的一大理由,显然也是Apple乐于看到的局面。

发布于 浙江