【芝能智芯——SK hynix的“内存中心计算”】
在2023年的Hot Chips 35大会上，SK hynix主要讲解内存领域的专业知识，介绍如何解决当今大规模计算领域人工智能的主要需求。SK hynix展示了其在领域特定内存上的“内存中心计算”工作，在寻找方法来缓解当前人工智能计算面临的最大挑战之一，即内存容量和带宽与可用计算资源之间的关系。本文主要收集这次系统性的介绍，并且做一些表述。

SK hynix面临的问题是这样的：生成式人工智能推理的成本非常高昂，不仅仅涉及到人工智能计算，还包括功耗、互联和内存，这些因素也在很大程度上推动了成本的增加。

●大型Transformer模型对计算和内存的需求

特别是对于大型Transformer模型，内存是一个主要挑战，模型需要大量数据，通常受到内存容量和带宽的限制。

SK hynix认为AI硬件行业需要的不仅仅是内存，还需要包括内置计算功能的不同类型的内存，其中包括领域特定内存，一直在努力成为内存计算提供商，这是提高价值链的方式。
#芝能日报##新能源大牛说##芝能智芯#