爱编程的魏校长
26-06-12 22:02 微博认证:教育博主

不但软件吞噬硬件,而且软件决定硬件

30年前,我敏锐发现,硬件标准化、通用化+软件实现专用化,是一个成本更加低廉的做法。因为摩尔定律,带来硬件的廉价,以后一定会催生更加多样且丰富的软件世界。
所以,我觉得我的知识架构有问题,太偏硬件了,赶紧辅修了一个偏软的CS专业。

这一次AI浪潮,催生了一个印钞机,让英伟达市值站上了5万亿美元。
这似乎是在嘲笑30年前的我:你看,硬件更值钱啊。
不是的,不是的,经过迭代思考,我得出结论:什么时候,英伟达的市值衰落,或者,什么时候,英伟达地位衰落,成为第二个Intel、第二个思科,我们才是真正进入AI时代。

我们看历史。因为现代操作系统等软件的需要,CPU多次按需改变自己:(1)需要多应用调度,但把每个应用的寄存器状态,重新存回内存,速度实在是太慢了,所以,CPU寄存器大量增加,分组应对不同的应用(进程);(2)因为处理多媒体数据的需要,CPU增加了SIMD类指令;(3)因为虚拟化浪潮的需要,CPU硬件层又增加了支持虚拟化的相关技术……
甚至,因为编译器的需要,CPU也做了很多改变;甚至,RISC技术的出现,都是因为编译器发现,它只需要CISC类CPU中,20%的指令就行了,于是,一场CPU硬件革命发生了。
这些,都是把计算机系统作为一个整体,但软件架构的需要,决定了硬件层的行为。
这一次,一样的。
系统需要运行AI算法,而这个大模型算法,刚好不是跑着我们原来的CPU为主的硬件体系里面,刚好是跑在急需GPU的硬件体系里面。那这段时间,是硬件先行,硬件补课,硬件跟上来。
其实,也是AI这个新软件体系,在决定硬件的价值啊。
一旦硬件跟上来了,特别是各种AI专用XPU大规模流行了,硬件的地位,又靠后了。
就像PC时代,其实关键公司,是微软,微软才是老大。Intel偏执狂CEO,强如格鲁夫,也向盖茨让步。
互联网浪潮,开始,也是先兴起一帮硬件公司,最后,才是Google、亚马逊、Meta等企业的时代。嗯, 还有Yahoo等过渡企业。很可能,Open AI,也是那个过渡企业。

当然,英伟达的护城河是CUDA,是软件体系,比Intel强一点。Intel控制不了操作系统,当年控制编译器好了,也难呢,微软在上……

#父女日常# 闲聊,供君参考。

发布于 北京