爱可可-爱生活
26-06-16 08:10 微博认证:AI博主 2025微博新锐新知博主

【为什么越来越多极客劝你放弃Ollama?】

作为本地运行LLM的顶流,Ollama凭极简体验爆火,但近期正遭遇口碑崩盘。这背后是VC资本驱动的商业公司与开源生态的冲突。

Ollama的核心推理全靠开源的llama.cpp,却长期模糊技术来源。为讲好商业故事,它强推Modelfile,把GGUF本已实现的单文件便利性再次复杂化,甚至混淆命名DeepSeek-R1蒸馏版。

更致命的是性能。测试显示原生llama.cpp比其快达1.8倍。随着Ollama闭源部分前端并转型云端,曾经的本地隐私承诺开始动摇。

初学试水无妨,但想榨干硬件性能并保持掌控,原生llama.cpp搭配llama-swap才是更清爽的解法。过度封装的便利,终会变成隐形枷锁。

sleepingrobots.com/dreams/stop-using-ollama/

#人工智能##AI创造营##大模型##开源#

发布于 北京