【为什么越来越多极客劝你放弃Ollama?】
作为本地运行LLM的顶流,Ollama凭极简体验爆火,但近期正遭遇口碑崩盘。这背后是VC资本驱动的商业公司与开源生态的冲突。
Ollama的核心推理全靠开源的llama.cpp,却长期模糊技术来源。为讲好商业故事,它强推Modelfile,把GGUF本已实现的单文件便利性再次复杂化,甚至混淆命名DeepSeek-R1蒸馏版。
更致命的是性能。测试显示原生llama.cpp比其快达1.8倍。随着Ollama闭源部分前端并转型云端,曾经的本地隐私承诺开始动摇。
初学试水无妨,但想榨干硬件性能并保持掌控,原生llama.cpp搭配llama-swap才是更清爽的解法。过度封装的便利,终会变成隐形枷锁。
sleepingrobots.com/dreams/stop-using-ollama/
#人工智能##AI创造营##大模型##开源#
发布于 北京
