爱范儿
26-11-11 11:22 微博认证:爱范儿官方微博

【曝苹果开发「Harbor」,可将多台 Mac 的统一内存用于本地 AI 推理】 #苹果被曝开发Harbor#

两台 Mac 连上 Thunderbolt 5,把统一内存汇集起来跑本地 AI——苹果被曝正在做的 Harbor,就是这样一款应用。

开发者 Aaron Perris 公布的介绍称,Harbor 能在 Apple 芯片 Mac 上浏览、下载和加载开放权重模型。多台兼容 Mac 连接后,应用自动识别设备并组建集群,承载超过单机容量的大模型,或服务更多并发请求。

这份介绍主打本地推理:数据留在自己的硬件上,模型管理和集群设置由应用处理,降低搭建私人推理服务器的门槛。

9to5Mac 报道称,Harbor 目前以苹果 Claris 品牌进行私人预览。

#Mac#