#llama.cpp正式进入1.0时代#
本地跑大模型的 llama.cpp 和 ggml 迈进 1.0.0，支持 150 多种模型架构，还给下游开发者立了正式的 API 兼容契约。以前这是极客玩具，现在开始像基础设施了：断网也能在自己电脑上跑模型。
发布于 北京
多么耿直的科技人
#llama.cpp正式进入1.0时代#
本地跑大模型的 llama.cpp 和 ggml 迈进 1.0.0，支持 150 多种模型架构，还给下游开发者立了正式的 API 兼容契约。以前这是极客玩具，现在开始像基础设施了：断网也能在自己电脑上跑模型。