近期,韩媒报道三星电子第四代HBM(HBM3)以及封装服务已经通过AMD品质测试。
AMD的Instinct MI300系列AI芯片计划采用三星HBM3及封装服务,该芯片结合中央处理器(CPU)、图形处理器(GPU)及HBM3,预计今年第四季发布。
据悉,三星是唯一能同时提供先进封装解决方案及HBM产品的企业。AMD原本考虑使用台积电的先进封装服务,但因其产能无法满足需求,最终只能改变计划。
AI大势下,高性能GPU需求水涨船高,这不仅利好英伟达、AMD等GPU厂商,而且也进一步助力了HBM以及先进封装的发展。
资料显示,AIGC(生成式人工智能)模型需要使用AI服务器进行训练与推理,其中,训练侧AI服务器基本需要采用中高端GPU,在这些GPU中,HBM的渗透率接近100%。当前提供HBM产品厂商主要是三星、SK海力士、美光三家原厂,全球市场研究机构TrendForce集邦咨询最新调查认为,在原厂积极扩产推动下,预估2024年HBM位元供给年成长率将达105%。
传统封测厂纷纷发力先进封装技术
2023 年以来,AIGC 迅速发展,带动 AI 芯片与 AI 服务器热潮,而由台积电推出、被称为 CoWoS 的 2.5D 先进封装技术更是扮演关键角色。然而,突如其来的需求让台积电应接不暇,面对此情况,传统封测大厂如日月光、Amkor 也相继展现技术实力,并未打算在此领域缺席。
例如,日月光的 FOCoS 技术能整合 HBM 与核心运算元件,将多个芯片重组为扇出模组,再置于基板上,实现多芯片的整合。其在今年五月份发表的 FOCoS-Bridge 技术,则能够利用硅桥 (Si Bridge) 来完成 2.5D 封装,助力打造 AI、数据中心、服务器应用所需之高阶芯片。
此外,日月光旗下矽品的 FO-EB 技术,亦是整合核心运算元件与 HBM 的利器,从下图来看,该技术不使用硅中介层,而是透过硅桥与重分布层 (RDL) 实现连结,同样能够实现 2.5D 封装。
而另一家封测大厂 Amkor(安靠)除了与三星(Samsung)共同开发 H-Cube 先进封装解决方案以外,也早已布局“类 CoWoS 技术”,其透过中介层与 TSV 技术能连接不同芯片,同样具备 2.5D 先进封装能力。
而中国封测大厂江苏长电的 XDFOI 技术,则是利用 TSV、RDL、微凸块技术来整合逻辑 IC 与 HBM,面向高性能计算领域。
近来高阶 GPU 芯片需求骤升,台积电 CoWoS 产能供不应求,NVIDIA 也积极寻求第二甚至第三供应商的奥援,日月光集团已然凭藉其 2.5D 封装技术参与其中,而 Amkor 的类 CoWoS 技术也磨刀霍霍,足以说明传统封测大厂即便面对晶圆代工厂切入先进封装领域的威胁,仍有实力一战。
再就产品别来看,晶圆厂先进封装技术锁定一线大厂如 NVIDIA、AMD;而其他非最高阶的产品,仍会选择日月光、Amkor、江苏长电等传统封测厂进行代工。整体来看,在不缺席先进封装领域,并且掌握逐步扩张之既有封装市场的情况下,传统封测大厂依旧能保有其市场竞争力。
存储巨头间的HBM大战
HBM为新型高性能存储产品,全球厂商中SK海力士、三星、美光等存储巨头在HBM领域展开了升级竞赛。据TrendForce数据,2022年三大原厂HBM市占率分别为SK海力士50%、三星约40%、美光约10%,集中度相对较高。
另外,海力士Q1法说会表示,23年HBM销量同比50%+增长。
高性能计算驱动数据中心HBM需求井喷,HBM升级速度近年明显加快。
自2014年首款硅通孔HBM产品问世至今,HBM技术已经发展至第四代,分别是:HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代),HBM芯片容量从1GB升级至24GB,带宽从128GB/s提升至819GB/s,数据传输速率也从1Gbps提高至6.4Gbps。
海力士是目前唯一规模量产HBM3的厂商,三星处于认证阶段。
根据公开信息披露,海力士新一代产品HBM3E,该芯片单pin最大带宽达8Gb/s,单栈最大带宽达1Tb/s,较上一代HBM3提升25%。预计新一代产品将在高性能数据中心、超级计算机和人工智能领域得到更广泛的应用。
据韩国媒体BusinessKorea报道,包括英伟达、AMD、微软、亚马逊在内的全球科技巨头,已相继向SK海力士申请HBM3E样本。根据TrendForce预计三星、美光则陆续在今年底至明年初量产HBM,市占率分别为38%及9%。三星计划在今年底开始生产HBM3,并计划投资数千亿韩元将韩国Cheonan,Chungnam工厂的HBM产能提高一倍。
随着HBM需求旺盛,也将拉动上游设备及材料用量需求提升。
HBM的高焊盘数和短迹线长度要求需要2.5D先进封装技术,以实现密集的短连接。台积电CoWoS以合理的成本提供最高的互连密度和最大的封装尺寸,成为HBM的首选搭档。