闲鱼开始流 96g 魔改版的 4090 了...
这应该能轻松跑 70b ，或者 35b 左右再挂个多模态...
我测过本地要跑 agent 大概要 60t/s 以上，才不会觉得有智障虾和矮脚马...
但问题是魔改敢不敢买啊... ​