再推荐一下，现在如果你有 16 GB 显存 和 11 GB 内存的电脑，就可以在本机运行目前最强的开源混合专家模型 Mixtral-8x7B 了，或者你也可以在 Google Colab上运行。

主要的优化是不一次加载所有 8 个专家模型，而是按需加载。

项目地址：http://t.cn/A6lsQTMl
Jupyter Notebook：http://t.cn/A6lRPmaM ​​​