假设GPU一分钟可以算1000万次。
但是:
GPU:我一分钟能算1000万次。
HBM:我一分钟只能送100万次数据。
那么GPU最终也只能算100万次。
剩下900万次只能等待。
这就是所谓:
Memory Wall(内存墙)
其实计算机几十年前就在研究这个问题。
AI只是把它放大了一百倍。
发布于 广东
假设GPU一分钟可以算1000万次。
但是:
GPU:我一分钟能算1000万次。
HBM:我一分钟只能送100万次数据。
那么GPU最终也只能算100万次。
剩下900万次只能等待。
这就是所谓:
Memory Wall(内存墙)
其实计算机几十年前就在研究这个问题。
AI只是把它放大了一百倍。