Rick老张有话说 25-12-26 12:00
微博认证:科技博主

【浪潮刘军解读,终于说清楚为啥我们只选超节点】#ai超级工厂# #算力# #超节点# #浪潮# 浪潮刘军在发言中解读,表示当下,全球大模型竞赛从“盲目堆算力”转向“追求单位算力产出价值”的新阶段。单位算力产出价值受到能源价格、硬件采购成本、算法优化、运营成本等多种因素的影响,但不可否认的是,现阶段token成本80%以上依然来自算力支出,而阻碍成本下降的核心矛盾,在于推理负载与训练负载截然不同,沿用旧架构会导致算力、显存与网络资源难以同时最优,造成严重的“高配低效”。这也是为啥我们要推超节点的原因。@新浪人工智能 http://t.cn/AX4ILnGE

发布于 北京