苹果即将发布一个新的“Harbor”应用程序：“将您的Mac变成私人人工智能推理服务器”。

Harbor将您的Mac变成一个私人AI推理服务器。在苹果芯片上本地运行开放式模型——您的数据永远不会离开您的硬件，也不会到达云中。通过雷雳 5 连接多台 Mac 电脑以优化内存，实现一台电脑可以单独处理的大型机型和更高的并发性。

设置只需几分钟，而不是几个小时：“Harbor通过Thunderbolt 5自动检测您的设备，以形成一个集群。插上电源，启动，您就运行了——无需手动配置，无需命令行，无需基础设施专业知识。”
直接下载和运行模型：“从应用程序中浏览、下载和加载开放式模型。Harbor处理模型管理，以便您可以专注于工作，而不是设置。”

规模级集群：“将两台或多台具有雷雳 5 的 Mac 电脑连接起来，然后将它们的统一内存汇集到单个推理资源中。运行超过任何一台计算机容量的模型，或在您的集群中提供更多并发请求。”

利好 Mac mini 和 Mac Studio