juwenjune
26-11-13 21:16 微博认证:科技博主

今天看到个事儿挺逗的:有哥们儿用已经停产的英特尔傲腾内存,在没有显卡的机器上,把 2.8 万亿参数的 Kimi K3 跑起来了。

速度嘛……每秒 1.5 个 token。生成 5 万个 token 要 18.5 小时。

我寻思这不叫跑模型,这叫给模型办了个年卡式陪跑。不过人家是真的在自己家里 DIY 出来的,有点意思。

AI 这两年最大的变化可能就是这:以前是几个人关在机房里才能玩的东西,现在一个退休内存条都能给你把 2.8 万亿参数"跑通"。跑通和跑得快之间隔着的,可能就是人类文明的距离。

#AI##KimiK3##随便聊聊#

发布于 江苏