最近LPU芯片概念太火了
我们看看真实的LPU芯片长什么样。
图一是和人拍照直观感受。
图二是与GPU尺寸的对比。
它的内存带宽是21PB/秒，什么概念呢？相当于你家里电脑的100万倍。
目前相对知名的是Cerebras和Groq，这两家LPU的成本仍然很高，零售是不可能了，主要是一些超算实验室可能会采购。 对于普通用户呢， 前者搭了一个lechat聊天，后者则开了一个api平台，主要用来秀一下惊人的输出速度。 deepseek r1 distill 70b能轻松跑到1000+tokens/秒以上。。。 在一些对时间响应极其敏感的高价值场景还是非常有用。