#微博视频号续航计划##直击硅谷# 在红杉资本的本期访谈中,谷歌AI基础设施负责人Amin Vahdat深入探讨了人类历史上最大规模资本开支浪潮下的技术逻辑。他指出,AI数据中心与传统数据中心的本质区别在于“专用化”——建筑与硬件协同设计,存储、供电、网络均按TPU/GPU机架数百千瓦的功耗重新规划。
他强调FLOPS只是“虚荣指标”,真正重要的是goodput(有效吞吐):在10万加速器规模下,故障每天发生多次甚至每小时多次,衡量标准应是真实故障条件下工作负载交付的有用计算。为此,谷歌每六个月需将有效token生成能力翻倍,其中大部分提升来自模型与软件优化,硬件则提供逐年翻倍的“免费乘数”。
谈及TPU历程,他从2013年的“逆势押注”讲到如今首次拆分为推理专用的8i与训练专用的8t,核心原则是:专用化程度取决于工作负载的规模与持久性。谷歌与DeepMind在流片前肩并肩协同设计,甚至在芯片架构“飞行中途”拦截修改。
他还谈到长程智能体正让CPU、网络与存储需求同步暴涨;光路交换机可在毫秒内将光路重定向至备用机架;电力是最根本的约束,谷歌宁可等待电网也倾向不自建电站。访谈最后展望了轨道数据中心与2036年单机架数兆瓦的超算愿景——届时接入水、电、光纤即可运行。#海外新鲜事##海外编译精选# http://t.cn/AXl2SK1l
发布于 江苏
