闲鱼开始流 96g 魔改版的 4090 了...
这应该能轻松跑 70b ,或者 35b 左右再挂个多模态...
我测过本地要跑 agent 大概要 60t/s 以上,才不会觉得有智障虾和矮脚马...
但问题是魔改敢不敢买啊...
发布于 上海
闲鱼开始流 96g 魔改版的 4090 了...
这应该能轻松跑 70b ,或者 35b 左右再挂个多模态...
我测过本地要跑 agent 大概要 60t/s 以上,才不会觉得有智障虾和矮脚马...
但问题是魔改敢不敢买啊...