麻省理工科技评论
26-04-10 13:29 微博认证:《麻省理工科技评论》杂志官方微博

【微软AI负责人:到2028年,有效算力还将增长1000倍】

人类的大脑天生习惯于线性思维。走一小时路,你能覆盖一段距离;走两小时,距离就翻倍。这种直觉在非洲草原上对我们大有助益,但在面对 AI 以及它核心的指数级趋势时,它会让我们彻底误判。

从我 2010 年开始从事 AI 研究到现在,投入前沿 #AI# 模型训练的数据量已经增长了惊人的 1 万亿倍:从早期系统的约 10¹⁴ 次浮点运算(flops,即浮点运算次数,是计算的核心单位),增长到如今最大模型的超过 10²⁶ 次。

这是一次爆炸。AI 领域的其他一切都是由这个事实派生出来的。怀疑论者常常预言 AI 的发展即将撞上天花板。但在这场史诗级的跨代算力跃迁面前,他们一次又一次被现实打脸。这些人的论据通常有三个:摩尔定律正在放缓、可用的训练数据即将枯竭、能源供给跟不上算力扩张的速度。

但只要把推动这场革命的几股力量拼在一起看,指数级的增长其实相当可预测。要理解这一点,就得绕到新闻标题背后,看看那个复杂而飞速演进的真实图景。你可以把 AI 训练想象成一间屋子,里面坐满了拿着计算器的人。过去很多年,提升算力的办法就是往屋里塞更多人、配更多计算器。

但这些人大部分时间其实都闲着,手指敲着桌面,等下一组数据送过来好开始下一次运算。每一次等待都是被白白浪费掉的潜力。今天这场革命真正的突破,不只是让计算器更多、更快(当然也做到了这一点),而是让所有的计算器永不停工,并且像一个整体那样协同运转。

戳链接查看详情:http://t.cn/AXMfde5Z