ikuyaaa- 26-03-27 08:11
微博认证:娱乐博主 超话粉丝钻咖(宋雨琦超话)

#存储芯片板块暴跌原因#
⚡ 一、核心诱因:技术革新冲击市场预期
谷歌TurboQuant算法引发需求担忧
谷歌研究院公开的AI内存压缩技术TurboQuant,宣称可将大语言模型(LLM)推理过程中的临时缓存(KV Cache)内存占用压缩至原来的1/6(精度降至3-bit),并在英伟达H100 GPU上实现最高8倍推理加速,且无需模型微调即可部署。市场担忧该技术会大幅降低AI硬件对高容量存储芯片(如DRAM、HBM)的依赖,颠覆存储芯片“供不应求”的涨价逻辑,导致闪迪、美光等美股存储巨头单日暴跌超6%,A股兆易创新、佰维存储等跟跌超5%。
KV Cache的技术瓶颈与突破意义
KV Cache是大模型运行时的“动态记忆体”,用于存储对话上下文。随着AI模型支持更长的文本(百万级Token),其内存消耗呈指数级增长,成为推理成本的核心瓶颈。TurboQuant通过极坐标量化和量化JL变换两项创新,在几乎零精度损失下实现极致压缩,被业内类比为《硅谷》剧中“无损压缩颠覆行业”的Pied Piper公司。http://t.cn/AXIv9y8u

发布于 中国香港