奥宝宝
26-08-18 15:09 微博认证:美妆博主 微博VLOG博主

#港股大模型双雄大跌#
🔻其实也没啥,就是最近阿里新的模型开源了
Qwen3.8 27B,Q4量化差不多和DeepSeek V4 flash一个级别

🔻啥概念?
大部分12G显存以上的个人电脑就能跑Q2量化的模型,这水平和今年初全球最顶尖模型差不多了
16G以上的可以Q3到Q4量化
3090-5090这些大显存,或者mac那些大内存的
相当于可以在自己电脑上免费运行一个V4 flash级别的智能体

🔻也就是说中国的模型有能力不那么依赖AI硬件堆叠了
开源模型又一次赢了✌️
当然那帮老外会觉得啥行业让中国突破了都不赚钱
所以狂砸,这……我也无力反驳
目前确实这样[无聊]
哪怕垄断了都给你搞成不赚钱的事儿
搞来搞去都是那几个平台当赛博地主赚钱

🔻对了,去魔塔社区下载模型更快:http://t.cn/AXpvNURX
AD版本的比UD出的体积小,16G以下的从IQ3-XXS这个模型开始试
在我电脑上这个模型64K上下文,能达到75tok/s

发布于 四川