Hugging Face的merve做的一个本地 AI 生态系统培训
http://t.cn/AXWs79dS
内容涵盖了预填充 vs 解码、MoE vs 密集模型、VRAM vs 统一内存、量化到推测性解码，所有内容都基于 llama.cpp
发布于 山东
蚁工厂