AIGC带飞的不仅是英伟达。内存等AI芯片的关键部件,以及晶圆代工、电子制造、先进封装等半导体产业链的多个环节,也将受惠于AI芯片需求井喷所带来的市场增量,有的甚至在下半年就能看到“立竿见影”的效果。与此同时,AI芯片性能的迅速提升,也对内存、制造和封装环节提出了更高的要求。
AI拉动内存带宽需求,利好存储芯片
算力并不是AI芯片唯一的性能指标,内存同样对AI芯片的整体效能起到决定性作用。
SK海力士在第一季度财报中指出,大型语言模型和AIGC的开发和商用化,将带动HBM(高带宽内存)在2023年的需求上扬。三星也在第一季度财报指出,将为AI 带动的 DDR5 和高密度内存模块需求做好产能准备。
AI芯片一般要实现两大功能,AI训练和AI推理。其中,AI训练需要大量计算和存储资源,离不开高性能存储的支持。而AI推理的场景更加细分,对存储的成本、功耗、部署方式等,提出了多样化的需求。
英伟达A100搭载了6个HBM2E内存堆栈
在大模型的训练过程中,内存带宽直接影响了GPU的数据传输速度。一位业内人士告诉《中国电子报》记者:“计算和存储是同步进行的,在计算数据量增加的同时,如果存储的带宽不能匹配其数据量,就会造成延迟,势必会影响性能。”
英伟达NVLink(高速 GPU 互连技术)带宽迭代
来源:英伟达
当前,新一代HBM3的带宽最高可达819 GB/s,在辅助GPU进行运算时有明显优势。有市场人士透露,英伟达已经将SK海力士的HBM3应用于H100,这也使HBM3在DRAM整体表现不佳的情况下实现逆势增长。有消息称,2023年后,三星与SK海力士两家存储大厂的HBM订单增长迅速。HBM3的原价为30美元每GB,如今上涨5倍之多。
而AI推理的带宽需求,往往低于500Gb/s。在此类场景中,带宽高于 LPDDR5,低于HBM2E的GDDR6,是更加经济的选择 。Rambus IP 核产品营销高级总监Frank Ferro表示,如果将HBM3作为AI推理的存储设备,基本上会把带宽需求翻倍,超过了 AI 推理本身的带宽需求,还会使成本增加 3~4 倍。相比之下,GDDR6 是更加经济高效的选择。
“在摩尔定律可能失效的今天,仅谈算力可能并不适用,未来的竞争重心可能会向内存带宽转移。”该业内人士说。
代工厂和EMS获得急单,收割第二茬红利
如果说芯片设计厂商吃到的是AI芯片的第一茬红利,代工厂商就是第二茬红利的收割者。
有消息称,为应对市场对于高性能GPU的庞大需求,英伟达已向台积电追加了1万片晶圆的订单。业界预计,英伟达追单将带动台积电7nm及5nm业绩回升,并体现在台积电第三季度的营收中。
目前来看,仅台积电一家代工厂的产能,难以应对AIGC和大模型带来的算力井喷。服务器制造商需要等待超过6个月才能拿到英伟达最新的GPU。在这种形势下,英伟达也对寻找更多代工厂商保持开放态度。在今年5月Computex 2023期间,英伟达CEO黄仁勋表示,公司将寻求供应链多元化,对未来与英特尔合作开发人工智能芯片持开放态度,并透露英伟达已经收到了基于英特尔下一代工艺节点制造的测试芯片,测试结果良好。
英特尔制程工艺路线图
来源:英特尔
虽然英特尔在2023年第一财季承受着下行压力,但制程开发依然按照IDM 2.0计划的“4年内实现5个制程节点”推进。基于Intel 4 的 Meteor Lake预计下半年推出,Intel 3、Intel 20A、Intel18A也在按计划稳步推进。如果英特尔与英伟达实现代工合作,不仅能够提升代工业务收益,也将提振市场对于英特尔代工业务的信心。
三星也对AI带来的算力需求保持乐观,预计代工市场将在高性能计算和汽车行业的拉动下复苏,带动代工盈利反弹。三星表示,将基于第二代3nm工艺拓展客户订单,并通过2nm技术的研发加强技术领先地位。
同样受惠的还有EMS(电子制造服务)厂商。据相关供应链消息,鸿海科技集团将负责今年下半年近九成的英伟达H100的系统代工(电子代工)。H100需求旺盛,毛利率高,有望为鸿海集团带来可观的业绩回报。而纬创将主要负责A100的系统代工。
先进封装产能需求提升,外溢效益显现
随着AI算力对于GPU的性能需求日益增长,芯片上的晶体管数量也呈现倍数级增长。
在AMD于6月14日凌晨发布的Instinct MI 300X芯片上,晶体管数量已经达到1530亿。一般来说,晶体管越多,芯片面积越大,良率的提升也越困难。由于摩尔定律放缓,依靠制程提升控制芯片面积的难度和成本越来越高,先进封装或将成为AI芯片破题的关键。
台积电主导的CoWoS封装是先进封装领域最早的AI受益者。CoWoS采用的整合型封装方式,能够实现更小的封装体积、更少的引脚和更低的功耗,获得了高性能处理器厂商的青睐。在4月20日举办的第一季度财报电话会上,台积电总裁魏哲家表示,近期刚刚接到了客户要求大幅增加后道封装产能的电话,尤其是CoWoS产能。
大河流水小河满。市场近期传出,由于英伟达等高性能计算用户的订单簇拥而至,台积电的先进封装CoWoS产能吃紧,选择将部分封装需求委托给日月光承接。矽品与 Amkor 也获得了 CoWoS 的外溢订单。
Chiplet同样有望受益于AI芯片浪潮。长电科技表示,面向AI时代高算力、高性能芯片的需求增长,2.5D/3D Chiplet封装、高密度SiP等高性能封装技术将成为推动芯片性能提升的重要引擎。其中,Chiplet能够搭建算力密度更高且成本更优的密集计算集群,显著提升高性能计算应用的性价比。矽品研发中心副总经理王愉博也表示,最新一代Chiplet依照不同的功能做区隔,或利用封装体的形态把两个相同的芯片相互串联,可避免芯片因尺寸太大导致良率损失。
AI对内存的需求,同样需要封装技术的支撑。三星表示,已经完成 8X HBM3 2.5D 封装技术(一种高密度内存集成技术)的开发,以满足未来的AIGC产品需求。