二狗有兔牙
26-08-25 12:06 微博认证:数码博主 微博剪辑视频博主

大家昨天都在围观玄戒O3,殊不知还有个更狠的玄戒O100悄悄亮相![doge][doge]

这是全球首个6nm晶圆级垂直堆叠AI加速芯片,说白了就是移动端版的mHBM
以前芯片都是平面布局,现在直接立体堆叠,带宽直接干到1.22TB/s,超过HBM3水准,更是现有旗舰手机的16倍,性能摸到H100的门槛[憧憬][憧憬]

一直以来[思考]端侧大模型最大的痛点就是内存带宽不够,跑模型又慢又卡
这下瓶颈直接被捅破,推理速度拉满,以后手机本地跑大模型丝滑度直接跃迁

而且万万没想到WoW这项根技术,第一个落地量产的居然是小米[鼓掌][鼓掌]这波真的有点过于先进了
芯片预计明年商用,想象一下以后不用联网,手机就能流畅跑超大模型,体验直接上新台阶

所以问题来了,这项黑科技如果下放到手机上,你最期待它实现什么功能?#全球首个6nm晶圆级垂直堆叠芯片#

发布于 广东