以前总说端侧大模型用着不爽,好多人以为是算力不够,其实最大的卡脖子点是内存带宽:数据喂不上去,算力再强也只能干等着。
这次这个6nm晶圆级垂直堆叠技术,说白了就是把内存和计算芯片直接叠在一块做。不是传统封装那种凑数方案,带宽直接冲到1.22TB/s,比现在旗舰手机强16倍,补上了端侧AI最缺的短板。
之前这都是服务器级显卡才玩的技术,现在居然先在移动端落地了。以后手机跑大模型不用再砍参数缩水,这才是实打实给端侧AI铺路。#全球首个6nm晶圆级垂直堆叠芯片#
发布于 山东
