#视频播客开麦计划##视频播客上新计划#
周跃峰在访谈中阐述,AI行业普遍存在算力资源错配、资源浪费问题。用于大模型训练的算力卡生命周期短,新一代硬件上线后,原有设备可就地转为推理业务,无需搬迁,持续创造收益,延长设备服役周期。
实现该模式的关键,是三层垂直解耦架构,可兼容不同代际、供电散热需求各异的算力硬http://t.cn/AXjGlkU0件。过去没有这套方案,硬件迭代往往需要新建机房,被动建设成本高。华为云由此提出“让每瓦特传递更多token”的理念,提升单位能耗的产出效率。
这套思路解决训练与推理算力流转难题,减少重复基建投入,在算力紧张的大环境下,最大化算力资产的长期价值。
#微博视频号续航计划##微博视频精选大赏##热点聚焦##热点观点##热点跨界共创##周跃峰称AI基础设施竞争关键是开放# http://t.cn/AXjGDzxW
发布于 广西
