为什么AI时代，先进封装突然重要了？

这两年，先进封装突然成了半导体行业的高频词。Chiplet、HBM、2.5D、3D封装、CoWoS、Hybrid Bonding……很多人第一次接触这些概念时，会有一个很自然的疑问：封装以前不就是把芯片包起来吗？为什么现在突然变得这么重要？如果只是从“封装工艺升级”这个角度去理解，很容易把先进封装看成半导体制造中的一个局部技术。但实际上，先进封装今天之所以重要，根本原因并不在封装本身。而在于：芯片性能继续提升的方法，正在发生变化。过去几十年，我们主要依靠把晶体管做得越来越小来获得更高性能。但到了AI时代，仅仅把晶体管继续做小，已经越来越难解决整个系统的问题。先进封装，正是在这个背景下走到了舞台中央。
一、过去的芯片升级，核心逻辑其实很简单过去几十年，半导体产业最经典的发展方式就是：把晶体管做得更小。晶体管变小以后，一块同样大的芯片上可以放更多晶体管。晶体管更多，通常意味着更强的计算能力。同时，制程不断进步，还可以帮助降低一定的功耗，提高芯片集成度。所以过去我们讨论芯片性能，最常见的问题就是：“这颗芯片是几纳米？”从180nm、90nm、45nm，一路发展到今天的先进制程。这种思路本质上是在做一件事：尽可能把更多功能塞进一颗芯片里。过去，这套方法非常有效。但问题是，越往先进制程走，难度和成本都在快速上升。晶体管当然还可以继续缩小，但已经不像过去那样“轻松”。更重要的是，即使晶体管能够继续缩小，也不代表整个系统的所有问题都会自动解决。AI芯片就是一个非常典型的例子。
二、AI时代的新问题：芯片“算得快”，数据却未必“送得快”我们平时谈AI芯片，最容易注意的是“算力”。多少TOPS。多少TFLOPS。多少核心。多少晶体管。这些指标当然重要。但是，现代AI计算还有一个同样重要的问题：数据从哪里来？一颗GPU真正工作的时候，并不是自己凭空进行计算。它需要不断从内存中读取数据。比如模型参数、特征数据、中间计算结果，都要不断在计算单元和存储系统之间移动。这时候就会出现一个很现实的问题：GPU的计算速度可以越来越快，但如果数据送不过来，GPU就只能等。可以把它理解成一家工厂。工厂里原本有100台机器，后来升级成了1000台高速机器。机器确实更快了。但如果原材料还是通过原来的几条小路运进来，那么很快就会出现一个尴尬情况：机器有能力生产，但原材料供应不上。这就是现代高性能计算系统越来越重视“带宽”的原因。而这也是HBM和先进封装越来越重要的直接原因之一。
三、HBM为什么要和GPU放得那么近？很多人第一次看到AI芯片封装结构时都会发现：HBM几乎是“贴”在GPU旁边的。为什么？为什么不能像普通电脑内存一样，把内存放在稍远的位置？原因并不复杂。因为距离越远，数据传输就越困难。传统方式更多依赖主板上的线路进行数据传输。但随着AI计算需要的数据量越来越大，仅靠传统互联方式，很难持续满足不断增长的带宽需求。HBM的思路，则相当于把内存直接搬到了GPU旁边。这样做有什么好处？第一，距离更短。第二，可以提供大量并行的数据通道。可以继续用高速公路来理解。传统内存更像是几条速度很高的公路。而HBM更像是在GPU旁边直接修了一大片多车道高速路网。不一定要求每一条车道都疯狂提速，但因为车道数量非常多，所以单位时间内能够通过的数据量大幅增加。这就是为什么HBM特别适合AI和高性能计算。它真正解决的，不只是“内存更快”。而是：让数据能够更高效地送到计算单元。但这里又出现了一个新问题。HBM可以靠近GPU，可GPU和HBM并不是直接随便放在一起就行。两者之间需要大量、高密度、高性能的互联。这时候，先进封装就真正登场了。
四、为什么传统封装开始“不够用了”？传统封装时代，封装最重要的任务之一，是保护芯片，并把芯片连接到外部电路。但到了今天，封装承担的任务已经发生了很大变化。它不只是“保护芯片”。还要负责：把GPU和HBM连接起来；把多个Chiplet连接起来；实现高速数据传输；解决供电问题；控制信号完整性；同时还要处理散热和应力问题。换句话说，过去很多发生在“一颗芯片内部”的连接，现在逐渐开始发生在“封装内部”。这是一件非常重要的变化。过去如果想提高系统集成度，我们最直接的办法是：把更多功能做进同一颗芯片。而今天，我们开始越来越多地使用另一种方式：把不同芯片通过高密度封装重新组合成一个系统。这也是Chiplet兴起的重要背景。
五、为什么不干脆一直做更大的单芯片？有人可能会问：既然需要更强算力，为什么不直接做一颗越来越大的GPU？为什么还要把芯片拆开，再重新封装？原因之一，是成本和良率。芯片并不是面积越大越划算。制造芯片的晶圆上，不可避免会存在一定缺陷。芯片面积越大，碰到缺陷的概率通常也越高。如果一颗超大芯片中只有一个关键区域出现缺陷，整颗芯片都可能报废。而如果把一个大系统拆成几个较小的芯片，也就是Chiplet，就有机会分别制造、筛选，再进行组合。除此之外，还有另一个问题：不是所有功能都需要最先进的制程。例如，一颗高性能芯片中，负责核心计算的部分可能非常需要先进制程。但某些I/O功能、接口模块、模拟模块，并不一定非要使用同样先进、同样昂贵的制程。于是就出现了一种新的设计思路：计算模块用先进制程。I/O模块可以使用其他成熟制程。内存由专门的存储工艺制造。最后再通过先进封装，把这些不同的芯片组合成一个系统。这就是所谓的“异构集成”。从这个角度看，先进封装已经不再只是制造后端的一道工序。它开始参与系统架构本身。
六、先进封装真正接棒的，是“系统性能增长”所以，如果我们重新回头看今天的先进封装，就会发现一个很有意思的变化。过去，提升芯片性能最主要的路径是：把晶体管做小。而今天，越来越多的性能提升开始来自：把不同芯片连接得更近、更快、更高效。这里的核心已经不只是晶体管。而是系统。计算单元怎么连接？存储怎么连接？不同Chiplet之间怎么通信？数据怎么移动？功耗怎么降低？热怎么导出去？这些问题开始共同决定一颗高端芯片最终能够做到什么水平。因此，从更大的视角来看：先进封装并不是摩尔定律失效后的“补丁”。它更像是半导体产业从“晶体管缩放”走向“系统缩放”的重要工具。
七、先进封装为什么会越来越重要？理解了这一点，我们就很容易理解为什么先进封装的战略地位还会继续提高。因为AI的发展正在同时推动几个趋势：计算规模越来越大；内存带宽要求越来越高；数据搬运量越来越大；芯片功耗越来越高；单颗芯片继续做大的成本越来越高。这些趋势共同指向一个结果：未来芯片很可能越来越不像“一颗芯片”。而更像一个小型计算系统。里面有计算芯片、存储芯片、I/O芯片、各种专用加速模块。然后通过先进封装，把它们组合起来。到那个时候，封装做得好不好，直接影响的就不只是芯片是否能够正常工作。而是：整个系统能够达到多高的性能。
八、真正值得记住的，不是那些技术名词所以对于刚开始关注先进封装的人来说，我反而不建议一开始就陷入RDL、TSV、Micro-bump、Hybrid Bonding这些技术细节。这些技术以后都可以慢慢讲。更重要的是先记住一条主线：AI时代，计算能力增长越来越受到“数据搬运”和“系统互联”的限制。先进封装的价值，就是让多个芯片之间能够像一颗芯片一样，更高效地协同工作。所以它真正解决的问题，并不是：“怎么把芯片包装得更高级？”而是：当单纯依靠晶体管缩放越来越困难以后，我们还能怎样继续提升整个计算系统的性能？这才是先进封装真正走到舞台中央的原因。也是我们理解Chiplet、HBM、2.5D、3D封装乃至未来更多新技术的起点。下一篇，我们继续回答一个非常关键的问题：既然做一颗大芯片这么直接，为什么整个行业却开始把芯片“拆开”？也就是：Chiplet，到底解决了什么问题？