上次折腾本地部署模型都是去年年初DS刚出来时候凑热闹搞得。当时感觉是虽然能跑，但是没啥用。逻辑/智商都没法和网页/API的满血版比。而且输出速度太慢了。
最近试了Qwen3.6-27B模型，稍微惊到我了。虽然小体积肯定还是不如同期的线上满血。这个输出速度和输出质量基本能用了。
我还只用了个6700XT 12G游戏卡，只是内存大了点而已。要是真的手头有算力卡，只在显存里跑更大体积模型，不知道会多好。
而且Qwen3.6开源这一个月，各种改造版/无限制版层出不穷。

不知道DeepSeek的V4版小体积例如27B啥时候出来，有点期待。
今年本地部署模型真的能用了，电脑不太差的朋友建议都备一个。尤其是无限制版。