种斌Marco
25-11-06 06:34 微博认证:科技博主 超话主持人(种斌Marco影视板报超话) 微博原创视频博主 头条文章作者

当英伟达逐步缓解芯片供应压力,AI 行业的核心瓶颈已悄然从算力短缺转向电力不足;数据中心约 40% 的电力消耗于散热冷却,英伟达新一代机架设计功耗较前代激增 100 倍,单机架功耗达常规设备的 10 倍。

训练一个大型语言模型的耗电量相当于普通美国家庭 462 年的用量,GPT-4 的训练电力可支撑 10 万人小城运转一年。

微软 CEO 纳德拉直言,公司库存堆满 AIGPU 却因电力短缺无法启用,核心难题是缺乏具备充足供电和冷却能力的数据中心外壳。谷歌、Meta 等企业同样受困于电力审批延迟,已建成机房被迫低负荷运行,大量高端芯片闲置。#AI生活指南##AI创造营##微博兴趣创作计划# http://t.cn/AXAmn10B

发布于 山东