【不用显卡!一台40核老服务器跑起2.8万亿参数大模型】有玩家分享玩法,用不带独显的老至强服务器搭配已停产的英特尔傲腾持久内存,成功跑通了Kimi K3大模型,受硬件性能限制生成速度极慢,输出数万个token需要耗时十多小时。
发布于 河南
【不用显卡!一台40核老服务器跑起2.8万亿参数大模型】有玩家分享玩法,用不带独显的老至强服务器搭配已停产的英特尔傲腾持久内存,成功跑通了Kimi K3大模型,受硬件性能限制生成速度极慢,输出数万个token需要耗时十多小时。