金正浩
现在是HBM、HBF把数据送给GPU,GPU在那边眼巴巴等着。那我们干脆自己算不就好了?如果HBM是一栋公寓楼,那就在公寓一楼装一个GPU,让数据坐电梯下来,在同一栋楼里完成计算。这样中午吃饭也不用跑到别的楼,在自己楼里就解决了。所以我的主张是,把CPU、GPU放进HBM里面。也就是说,让GPU被彻底边缘化。不过如果太过分地把它排挤掉,可能会引发反弹,所以要适当分工,安抚一下它:“贵一点、难一点的活儿我们来做,你在旁边等着。”核心就是让GPU永远有点“口渴”,永远需要依赖我们。我把这种架构叫作Memory-Centric Computing,也就是以存储器为中心的计算。其实从HBM4开始,已经在朝这个方向走了。
发布于 四川
