#美媒称中国抹去美国在ai领域领先地位#
紧跟时事不落伍系列:
单纯的拼芯片性能,已经过时了,如今的AI大模型赛道进入了“超节点”时代。今年的世界人工智能大会,华为、阿里、百度、沐曦等国内各大科技巨头纷纷亮出了自家的超节点产品。
话说回来,超节点究竟是个啥?
以前训练AI大模型,就像是攻克一道科研难关,找来一千个专家,关在位于全国各地的房间里。大家各算各的,只能靠电话和绿泡泡沟通,大把时间都浪费在等待对方回消息上了。
现在的超节点模式,就是通过高速连接技术,实现一堆高性能芯片的物理合体。你不妨想象成变形金刚里的组合金刚。一堆小机器人变形后组合成一个巨无霸机器人,力大无穷,无人能挡。
想象一下:几十个甚至上千个专家被拉进同一个房间,围坐在一张巨大的圆桌前,然后全部接上脑机接口。大家共享同一个大脑记忆体,沟通速度几乎零延迟,默契得就像同一个人。这样的团队的研究效率,何等恐怖!
华为的昇腾950超节点真机,就是这种模式的典型,配备了1024个专家(芯片),256TB大小的圆桌(统一内存空间)。3us超低时延让专家们的沟通延迟缩短至3微秒,1 EFLOPS算力让专家们的运算速度提升至100京次(10的18次方)/秒,专门用于满足几万亿参数大模型的顶级算力需求。
如果华为奉上的是一桌摆满极品料理的满汉全席,那阿里云的灵骏真武M890就是一张赛博共享中央厨房,里面标配64位大厨,还配了一条自研的超高速传送带,传菜速度飙到800GB/s。如果要做几百亿参数的硬菜,直接线上下单承租,开箱即用。
百度昆仑芯的32/64卡超节点,是国内最早量产交付直接送到客户家里的“折叠集装箱厨房”之一。主打一个节约空间:特别紧凑的设计,硬生生在一个像大衣柜一样的机柜里,塞下了 32 位或 64 位大厨(32/64卡)。而且它是个模块化设计,如果你以后生意做大了嫌人少,还可以继续像叠乐高积木一样往继续往上堆,最高能把 512位大厨绑在一起高效烧菜。
壁仞科技推出的下一代NPU方案,则是“脑电波绝对同步后厨”。与华为昇腾950一样,他们也整出了把1024位大厨(1024张卡)集中在一个房间里工作的绝活。不过,他们的独门武器是自研的“BLink 2.0”脑电波互连协议。通俗说来,就是这1024个人在做菜时,脑子里共享同一本活页菜谱(共享同一个内存空间)。不管谁在哪一页改了一个配方,所有人瞬间在脑海里同步更新,绝不会出现“你多放了盐、我多放了糖”的冲突情况。
沐曦股份的曦聚S600,是一间自带冰镇空调的重工业后厨,64 位大厨(64张GPU)聚在紧凑空间里疯狂颠勺炒菜,厨房容易热到爆炸。沐曦给这 64 位大厨穿上了全套“全液冷背负式空调”(全液冷部署),一边疯狂输出,一边冰镇散热,保证队伍不中暑、不罢工。更难能可贵的是,这64个人不仅内部配合默契,还可以作为先锋军团,去跟别的厨房联合出击,最高能一路扩充联结成拥有上万名大厨的超级军团(万卡级集群)。
代表中科曙光登台的,是曙光8000登峰真机,如果前面几家比的是单间厨房,那曙光家的就是国家级的“全国后厨超级大联盟”。它通过“国家超算互联网”,把分布在全国各地的十万名顶尖大厨(十万卡 AI 超集群)死死地绑在了一起。也就是说,东大在AI战场上的兵力规模,已经从一地一城的小规模战斗,直接升级到了动员十万大军参战的跨省级战役,规模和格局完全不在一个维度了。
最后总结:以前大家比的是谁的单张芯片更聪明,现在大家比的是谁能把成百上千张芯片完美绑在一起协作。单打独斗的时代已经落伍,如今是超节点时代,国产算力的竞争正进一步向芯片互连和系统集成能力延伸,各家大厂必须强强联手,才能屹立于不败之地。#微博新知##ai创造营##科技先锋官#
