「64GB纯CPU跑284B大模型，这个项目把“本地大模型”又往前推了一步」synchopate 开源的 llama-modchip，核心不是简单做个启动器，而是围绕 llama.cpp 和 ggml 做了一整套面向 MoE 大模型的量化、内核补丁和运行时工具，目标很明确：让 64GB 内存、0 GPU 的机器，也能在 256K 上下文里跑起 DeepSeek-V4-Flash 284B。这件事难点不在“能不能启动”，而在能不能真正装进内存、别被换页拖死、速度还过得去。它给出的方案是把原本 76.87 GiB 的 DeepSeek-V4-Flash 压到 56.56 GiB，峰值内存控制在 57.61 GiB 左右，同时保留默认 Top-6 expert 全开，号称可做到 44.36 tok/s 的预填充和 9.1 到 14.7 tok/s 的生成速度。项目还不只盯着 DeepSeek 284B，也覆盖 Nemotron、Qwen3 等 30B 级 MoE，针对 Zen 5、Threadripper、Apple Silicon、ARM64 和 Windows 混合部署都给了对应优化路径。更有意思的是，它把 Stockfish-PVS 风格的自推测解码、/dev/shm KV 快照恢复也塞了进来，强调本地 Agent 场景下的连续对话和工具调用体验。说白了，这不是“人人都该在家跑 284B”，而是在提醒行业一件事：大模型部署的天花板，不只由显卡决定，内存布局、量化策略、缓存命中和算子调度，照样能把看似不可能的事往前拱一大步。GitHub：synchopate/llama-modchip