🔻Unsloth 把阿里的Qwen3.8 27B又重新量化了一次
我只能说，更牛逼了[赞]
魔塔社区可以高速下载
http://t.cn/AXpUS4zE
今天更新的IQ3 S，16G卡可以上下文64K，75tok/s
3090-5090这种卡可以爽跑Q4级别

🔻这个27B模型可以达到今年初最顶级大模型水平
外加视觉识别能力
能在消费级显卡运行
甚至还出了个1Q版本能塞进手机里

🔻虽然淘宝不做人，但阿里AI这方面
在这个月是真的功德无量了
谁还跟那说美国大模型领先半年、中国开源模型追不上啥的
妥妥的脑瓜子有问题或者膝盖骨太软

🔻一张16G卡能跑一个类似DeepSeek v4 flash能力的模型
虽然上下文小了点，但起码能跑起来了
美国那些大模型需要无限硬件堆砌的故事其实已经破灭了
当然短期内还是需要很多AI硬件
但左脚踩右脚飞升的故事，在qwen3.8 27B出来后就宣告结束了
美光、海力士啥的注意风险吧
我能在16G上跑这种级别，以后就能跑更高更强的
那国产大模型就能在有限的硬件条件下跑出更强的能力
对硬件的需求也就没有那么迫切[挖鼻]