常岩CY
26-11-12 16:00 微博认证:汽车博主 微博原创视频博主

苹果正在开发一款名为 Harbor 的全新应用,准备把 Mac 变成真正的私人 AI 服务器。

根据目前曝光的信息,Harbor 可以直接在 Apple Silicon 芯片上运行开放权重 AI 大模型,所有数据都保留在本地,不需要上传云端。

它可以通过雷雳 5(Thunderbolt 5)把多台 Mac 连接起来,组成一个 AI 推理集群。

按照官方描述,Harbor 能够整合多台 Mac 的统一内存资源,让它们共同运行单台设备内存无法容纳的大模型,或者同时处理更多 AI 请求。

而且整个过程不需要折腾命令行,也不需要配置复杂的服务器环境。插上雷雳 5 连接线,软件就能自动识别设备、建立集群。模型的搜索、下载、加载和管理,也都可以直接在应用内完成。

我觉得这件事真正值得关注的地方,是苹果正在尝试改变本地 AI 的硬件使用方式。

以前想在本地运行参数规模更大的 AI 模型,最直接的办法就是购买一台拥有超大统一内存的 Mac Studio 或 Mac Pro。

但如果 Harbor 真能实现描述中的能力,那么未来你可能不需要购买一台昂贵的顶配 Mac,而是把手头几台 Mac 连接起来,就能获得更大的 AI 模型运行空间。

目前 Harbor 据称还处于苹果旗下 Claris 品牌的非公开预览阶段,实际性能和正式发布时间尚待确认。

发布于 北京