最近再使用hermes agent，这东西非常有用。我本地用4090显卡（24G），跑qwen3.6 27b稠密模型（17G），为了本地电脑的安全，用docker把它关在沙盒里。现在就等苹果的M5 MAC STUDIO 上市了，有了它才能在本地跑更大更聪明的中号模型。
发布于 马来西亚
三疯胖蜀黍 26-04-29 12:19
最近再使用hermes agent，这东西非常有用。我本地用4090显卡（24G），跑qwen3.6 27b稠密模型（17G），为了本地电脑的安全，用docker把它关在沙盒里。现在就等苹果的M5 MAC STUDIO 上市了，有了它才能在本地跑更大更聪明的中号模型。