海力士、三星、美光之间的竞争愈加白热化。6月5日,黄仁勋表示,三大存储 芯片 制造商已通过认证,并且都已投产,可为 英伟达 最新的AI平台Vera Rubin供应最先进的高带宽存储芯片。这意味着,SK海力士、三星电子和 美光科技 即将开始大规模生产和供应HBM4芯片。
HBM4走上台前的同时,三家厂商正你追我赶研发下一代产品HBM5,一个全新的技术方向浮现——HBM内部热管理。
据韩国时报最新报道,从三大厂的日程表来看,HBM散热技术将首先大规模应用到HBM5上,不过各自在路线上存在细微差异。
SK海力士iHBM路线:引入铜基/硅基导热通道
SK海力士于5月26日发布iHBM散热技术,将集成冷却元件(ICE)内嵌到HBM中,在芯片内部单独开辟直通散热通道。这种硅基结构允许热量通过芯片间的物理层散发出去,有效地在内存堆叠中起到散热烟囱的作用。该公司表示,与传统设计相比,该技术可将热阻降低30%以上,即使在高温、高负荷条件下也能稳定运行。
SK海力士计划将iHBM应用于其HBM5及后续产品,这些产品主要面向高性能计算和 人工智能 数据中心应用。该公司补充说,该技术基于已在量产中得到验证的封装工艺,客户无需进行重大设计变更即可采用该技术。
三星电子HPB路线:嵌入一体化冷却元件
三星电子计划采用HPB(Heat Path Block,导热阻断/导热块)方案,即将导热块埋入多层DRAM裸片之间,相当于在堆叠芯片内部搭建多条独立“散热烟囱”,以散发芯片内部产生的热量,同时降低热阻。今年1月,三星宣布在其Exynos 2600处理器中采用了该技术,在AP芯片顶部安装了一个铜基HPB,三星表示,该技术可将热阻降低16%,公司还在考虑采用硅基HPB结构。
其HPB技术已在第七代HBM4E上完成验证,该产品的样品于5月29日首次交付给客户,将在HBM5上实现量产落地。
美光科技TSV+低功耗路线:探索TSV微沟槽液冷
不走三星、海力士内嵌导热块路线,美光科技主攻低功耗HBM设计,并辅以硅通孔(TSV)沟槽冷却技术,通过在AI加速器芯片的硅芯片内部蚀刻微型沟槽,使冷却液在其中循环流动,从而降低内部热积累。这些TSV仅承担热传导功能,与信号TSV在同一封装面积内对齐排布,不额外占用芯片面积。
为什么要将散热设计“前置”到HBM里?
过去,全球HBM赛道的博弈,始终围绕宽、堆叠层数、I/O速度等性能参数角逐,散热设计通常被视为后端问题,主要依赖外部的系统级散热,如 服务器 风扇、液冷板、导热界面材料,HBM芯片内部本身并没有主动或高效的微结构散热设计。
随着AI硬件的迭代,英伟达、AMD新一代AI服务器 GPU 单芯片功耗逼近1000W,HBM不断往更高堆叠,HBM4堆叠了12-16层,HBM5将迈向20层堆叠、超高带宽迭代。
堆叠层数越高,HBM中积聚的热量就越多,过热会触发芯片降频、算力缩水、整机稳定性下降。据亚洲商业日报等韩媒报道,英伟达和AMD等客户已要求HBM供应商加强散热管理和低功耗设计。
而老式HBM仅依靠底层基片逐层导热再外接冷板散热,热量绕行路径长、热阻高,已经无法适配HBM4E/HBM5超高功耗场景,必须在封装内部植入原生散热结构。
正如三星设备解决方案部门总裁兼首席技术官宋载赫所言:“随着人工智能系统功能日益强大、集成度不断提高,热管理正成为下一代存储器的关键因素,这不仅要求提高存储器性能,还要求提高散热能力。”
一位业内人士表示:“低功耗和热管理技术将是未来HBM研发的核心方向。过去,提高数据传输速度和增加堆叠层数是关键的竞争因素,但从现在开始,有效控制发热量的能力将决定产品的性能和良率。”
可以预见,当散热成为HBM产品“出厂配置”的一部分,HBM产品价格将随着价值量的提高而提高,相应地,高导热铜材、特种硅散热材料、 先进封装 (Hybrid Bonding混合键合、WLP晶圆级封装等上游材料和封装端的订单有望持续放量。对于下游IDC厂商而言,HBM芯片级集成散热普及后,AI服务器从整机外置液冷慢慢向芯片原生散热+冷板辅助过渡,将进一步降低数据中心整体液冷成本。
有业内人士表示:“随着存储器制造商采用更先进的散热解决方案,整个开发流程更紧密的整合将变得越来越重要。代工厂和存储器制造商之间的合作效率很可能成为关键的竞争因素。”
