华尔街见闻APP
26-06-12 17:57 微博认证:华尔街见闻 网址 http://wallstreetcn.com/ 官方微博

【Groq CEO谈“芯片架构”:GPU是“重型大货车”,LPU是“最后一公里快递”】Jonathan Ross认为,GPU更擅长处理高度并行、对延迟不敏感的预填充阶段;LPU则凭借SRAM架构和静态调度,在低延迟、小批量的解码阶段(如MoE模型)具备极致速度与成本优势。两者的混合部署能完美平衡速度与成本。根据杰文斯悖论,算力越便宜需求越大,GPU与LPU将共同扩张市场。http://t.cn/AXaUqlY1