flypig 26-03-09 00:19
微博认证:广告导演

做一些比较激进的配置。

拿我的顶配 Mac Studio (M3 Ultra, 512GB 内存) 跑本地大模型,暂定 minimax,作为模型服务器,有安全措施。

拿我的普通 Mac mini (M4,24GB 内存,不登录 iCloud 或 Google 账号)作裸奔的 OpenClaw 服务器,基本无安全措施,内网调用 Mac Studio 上的本地模型。

把本地模型和本地 agent 分开,大机连小机,普通操作基本不消耗 token。免费。(当然电费有一些,但不多。)

大机还做些套壳 OpenAI API 的服务,比如翻译机什么的,在要求高质量输出的时候,在内网让 OpenClaw 做透明 API 调用。

蛮好。至少骂龙虾不用花钱了。

发布于 北京