#华为突破冯诺依曼单机架构#这是一次真实的超大规模AI基础设施工程升级,但被包装成了“改写计算理论”的架构革命,不能简单理解为华为突破了冯·诺依曼体系。
华为此次发布的Peerium对等计算架构,主要通过“灵衢”UnifiedBus,把CPU、NPU、内存、SSD和网卡放到统一协议下进行对等互联,并结合统一内存编址和Nested BSP嵌套并行,让多个处理器和加速器在软件层面尽量像一台大型计算机一样协同工作。
昇腾960超节点最多支持4096张卡,多个超节点还可组成51.2万卡乃至规划中的百万卡集群,25.6万卡系统也被华为称为正在部署。但需要注意,统一内存寻址目前主要针对超节点内部,不能等同于百万张卡共享完全一致的内存;集群级仍然是分层网络互联。
“Nested BSP替代SPMD”“RTT从7微秒降到2微秒”等说法也存在概念混用或测试口径不同的问题,而且嵌套BSP和Multi-BSP并不是华为首次提出。
因此,这次真正的突破在于把统一寻址、对等互联、NPO光互联和超大规模集群做成系统级产品,属于重要工程创新,而不是冯·诺依曼架构或图灵计算理论被彻底推翻。最终能否成为英伟达体系的有效替代,还要看真实训练效率、软件生态、稳定性和每Token成本。
发布于 山西
