年初我提过的知名LPU公司Groq,刚刚被英伟达收编。
LPU是一种定制的专门用于大模型推理加速的芯片。大模型的首token输出时间及token输出速度都极快。这对于一些时间敏感型的特定场景非常有用。比如说军事,应急,救援等。
Groq的几个创始人都将加入英伟达。Groq的云服务仍将保持运营。
有人评价,其实苹果最应该买的,可惜厨子没那个眼光。
发布于 广东
