在当今世界上最火热的芯片行业中,有一个领域被一家相对名不见经传的韩国公司统治着,它就是SK海力士。
目前来看,人工智能(AI)浪潮最大的受益者之一当属英伟达,其最尖端的H100芯片已供不应求。但是一般人可能不知道,这种最先进AI芯片还依靠着一种专用存储芯片:高带宽内存芯片(HBM)。正是在这种芯片的配合下,AI应用背后的大量惊人即时计算才成为了可能。
什么是高带宽内存芯片?简单来说,它就是把DRAM内存芯片堆叠在一起,就像一层层楼组合成摩天大厦一样。它会和图形处理器(GPU)封装在一起,实现大容量,高位宽的DRAM组合阵列。ChatGPT等生成式AI工具需要消耗大量数据,这些数据必须从内存芯片中检索出来,然后发送给处理器进行计算。凭借其摩天大厦式的堆叠,高带宽内存芯片可以与英伟达、AMD、英特尔等公司设计的处理器更紧密地协同工作,从而提高性能。
SK海力士就是高带宽内存芯片的主要供应商。这么多年来,内存芯片市场经历了起起伏伏,SK海力士一直是主要市场参与者,但它在历史上从未被视为行业先锋。不过这一次,它成为了高带宽内存芯片领域的领导者。
韩国内存第二大户
海力士源于韩国现代集团的现代电子。现代集团原本以汽车、造船和重型机械为主业,几乎没有任何电子产业发展经验,#深圳电子平哥#
1982年底,现代集团投资4亿美元启动半导体项目。现代电子效仿三星电子,也在韩国和美国硅谷设置了两个研发团队。国内的半导体实验室拥有100多名工程师,硅谷的实验室主要由韩裔美国工程师组成。
1984年,现代电子从硅谷华人#张楷平#陈正宇手中购买了16K/64KSRAM的设计。由于缺乏经验和技术落后,现代电子生产的芯片良品率很低,被迫转做存储器代工。正逢美国内存厂商在日本的进攻下节节败退,德州仪器为降低制造成本,与现代电子签订代工协议,由德州仪器提供64K内存的技术,帮助现代电子改善产品良品率。
1986年,现代电子成为韩国继三星电子之后的第二家量产64K内存的制造商。由于技术基础薄弱,现代电子的内存市场占有率远弱于三星电子和日本企业。加上内存市场不景气,日本企业有意打压价格,试图迫使韩国企业退出市场,现代电子为此承受了数亿美元的巨额亏损。幸好现代集团是韩国排名前几位的大型财阀,可以依靠赚钱的汽车部门来支持现代电子。而且,美国对日本内存的反倾销指控,也让内存价格回升。到了1991年,追上先进工艺制程且实现良品率提升的现代电子将初始投入的4亿美元资本全部收回。此时正值现代电子进入半导体行业十周年。
亚洲金融危机时,韩国财阀普遍遇到极大的困难,美资乘虚而入,现代集团也获得了85亿美元的外资注入。青瓦台一看现代集团口袋里有了点钱,便迫使现代电子以21亿美元的巨资合并LG半导体。这个价格相当于LG半导体市值的5倍。现代集团也不是傻子,干脆把现代电子切割出去独立发展,于是就有了海力士。
2001年全球互联网泡沫破裂,内存价格狂跌,刚刚问世的海力士巨亏25亿美元,不仅无法按期归还收购LG半导体时欠下的巨额贷款,还需要大量新的资金注入。海力士的资产负债率高达惊人的206%。所有人都认为,亲妈不疼、后妈嫌弃的海力士很快就要完蛋了。
在资金状况得到改善的同时,海力士通过在中国建生产基地来降低成本。海力士和无锡谈了个超级合算的投资,只花3亿美元现金就获得总投资高达20亿美元的12英寸和8英寸晶圆厂各一座。海力士还借德国英飞凌(Infineon)和茂矽的争端,把茂德的产能纳入麾下。英飞凌原本是与茂矽合资450亿台币经营茂德。2001年茂德亏损300亿台币,茂矽将茂德股票大量质押,引发英飞凌不满。英飞凌于是从茂德撤资,转而同南亚科合作组建华亚科。此外,海力士还另辟战场,和意法半导体合作开发生产处于上升趋势的NAND闪存并为苹果供货,借以缓解内存的亏损压力。
在吴教授的领导下,海力士降低了债务负担和经营成本,提高了企业竞争力。SK海力士的无锡12英寸晶圆厂的低成本竞争力以及智能手机市场对NAND闪存的需求暴增,在接下来几年为海力士带来数10亿美元的利润,其中仅2005年就获得了创纪录的18亿美元利润。2005年7月,比计划时间提前一年半,海力士完成了债务解困方案。
2006年更创下半导体行业世界第七位,步入纯利润2万亿韩元的集团等,正在展现意义非凡的增长势力。海力士半导体不仅作为给国家经济注入新鲜血液的发展动力,完成其使命,同时不断追求与社会共同发展的相生经营。
海力士半导体以超卓的技术和持续不断的研究投资为基础,每年都在开辟已步入纳米级超微细技术领域的半导体技术的崭新领域。
2012年2月,韩国第三大财阀SK集团宣布收购海力士21.05%的股份从而入主这家内存大厂。2012年更名SK hynix。
十年布局 开花结果
十年前,SK海力士就开始比其竞争对手更为积极地布局高带宽内存芯片。该公司负责先进存储产品设计的朴明宰(Park Myeong-jae,音译)表示,高带宽内存当时还被视为未知领域。
2013年,SK海力士与AMD一起率先向市场推出了高带宽内存芯片,其最新第四代产品将12个传统DRAM芯片堆叠在一起,高于上一代产品的8个,可提供业界最高水平的数据传输效率和散热能力。
恰巧也是在大约10年前,英伟达和AMD正寻找合作伙伴打造一种新型内存芯片,希望以更快的速度,将更大容量的数据即时传输到它们的GPU中。这一内幕由韩国科学技术院机械工程系教授金钟浩(Kim jung ho,音译)透露,该大学研究实验室自2010年以来一直在与SK海力士合作研究高带宽内存。
为了满足这些要求,SK海力士做出了力度更大的投资。“这一投资既体现了对新技术的承诺,也有一些运气成分,因为他们大胆押注的产品在AI时代受到了关注。”金钟浩表示。 SK海力士没有透露公司在高带宽内存芯片开发上投入了多少资金,也没有公布这类芯片的销售额数据,但它表示,高带宽内存这一类芯片目前占DRAM芯片总销售额的20%以上。而在去年,这一占比还只是个位数。
如今,随着依赖这种高带宽内存的AI应用兴起,SK海力士已经成为硬件领域的早期赢家之一。 SK海力士表示,其新一代高带宽内存芯片每秒可以处理230部全高清电影。
由于智能手机和电脑销量下滑,整个内存芯片市场陷入严重低迷。但是,SK海力士的股价自今年年初以来上涨了近60%,几乎是本国对手三星电子涨幅的三倍,也高于美光科技和英特尔大约30%的涨幅。英伟达的股价在2023年上涨了两倍多。
SK海力士的朴明宰表示,内存芯片不再仅仅是辅助性计算硬件。“从本质上讲,高带宽内存等内存技术的发展正在为AI系统的未来发展铺平道路。”他在接受采访时表示。
三家存储巨头争相追赶
在AMD和英伟达这两家GPU厂商争锋相对之际,三家领先的内存厂商也没闲着,开始了在HBM市场的你追我赶的历程。
2013年,SK海力士宣布成功研发HBM1,定义了这一显存标准,但它和AMD一样,好不容易得来的优势却没保持得太久.
2016年1月,三星宣布开始量产4GB HBM2 DRAM,并在同一年内生产8GB HBM2 DRAM,后来者居上,完成了对本国同行的赶超,与HBM1相比,显存带宽实现了翻倍。
2017年下半年,SK海力士的HBM2姗姗来迟,终于宣布量产;2018年1月,三星宣布开始量产第二代8GB HBM2“Aquabolt”。
2018年末,JEDEC推出HBM2E规范,以支持增加的带宽和容量。当传输速率上升到每管脚3.6Gbps时,HBM2E可以实现每堆栈461GB/s的内存带宽。此外,HBM2E支持最多12个DRAM的堆栈,内存容量高达每堆栈24GB。与HBM2相比,HBM2E具有技术更先进、应用范围更广泛、速度更快、容量更大等特点。
2019年8月,SK海力士宣布成功研发出新一代“HBM2E”;2020年2月,三星也正式宣布推出其16GB HBM2E产品“Flashbolt”,于2020年上半年开始量产。
2022年1月,JEDEC组织正式发布了新一代高带宽内存HBM3的标准规范,继续在存储密度、带宽、通道、可靠性、能效等各个层面进行扩充升级,其传输数据率在HBM2基础上再次翻番,每个引脚的传输率为6.4Gbps,配合1024-bit位宽,单颗最高带宽可达819GB/s。
而SK海力士早在2021年10月就发布了全球首款HBM3,并于2022年6月正式量产,供货英伟达,击败了三星,再度于HBM上拿到了技术和市场优势。
三星自然也不甘示弱,在它发布的路线图中,2022年HBM3技术已经量产,2023年下半年开始大规模生产,预计2024年实现接口速度高达7.2Gbps的下一代HBM技术——HBM3p,将数据传输率进一步提升10%,从而将堆叠的总带宽提升到5TB/s以上。
讲到这里,大家不免会心生疑问,都说了是三家分内存,这三星和海力士加一块就两家啊,还都是韩国的,另外一家跑哪去了呢?
身在美国的美光当然没有忽视显存市场,作为尔必达的收购者,它对于3D堆叠的TSV技术怎么也不会陌生,甚至在HBM发布之前,还有不少TSV技术方面的优势。
但是美光却没跟着AMD或英伟达去鼓捣HBM技术,而是回头选择了英特尔,搞出了HMC(混合内存)技术,虽然也使用了TSV,但它有自己的控制器芯片,并且完全封装在PCB基板之上,和HBM截然不同,也完全不兼容。
2011年9月,美光正式宣布了第一代HMC,并在2013年9月量产了第二代HMC,但响应者却寥寥无几,第一个采用 HMC 内存的处理器是富士通的SPARC64 XIfx,其搭载于2015 年推出的富士通PRIMEHPC FX100 超算,而后就鲜见于各类产品中。
随着2018年8月,美光宣布正式放弃HMC后,才匆匆忙忙转向GDDR6和HBM产品的研发,幸好3D堆叠技术的底子还在那里,不至于说完全落后于两个韩厂。2020年,美光正式表示将开始提供HBM2产品,用于高性能显卡,服务器处理器等产品,其在财报中预计,将在2024年第一季度量产HBM3产品,最终赶上目前领先的竞争对手。
AI大潮仍然席卷全球,而英伟达H100和A100显卡依旧火热,HBM作为内存市场的新蛋糕,却是最鲜美的一块。芯片行业咨询公司 SemiAnalysis 表示,HBM 的价格大约是标准 DRAM 芯片的五倍,为制造商带来了更大的总利润。目前,HBM 占全球内存收入的比例不到 5%,但 SemiAnalysis 项目预计到 2026 年将占到总收入的 20% 以上。