欢迎访问江南电竞入口安卓版
运营商集采新风口:AI服务器需求高涨,新要求带来新机遇
2023-09-14 来源:贤集网
222

关键词:人工智能芯片GPU

继多家行业头部企业宣布算力领域最新布局后,中国电信近日也公布了最新进展,其AI算力服务器(2023-2024年)集中采购项目已批准,公司首次将AI算力服务器作为独立品类进行集采。

目前在算力领域,多家企业正围绕AI大模型热潮带来的智算市场加快布局,将智算视为今年的重点业务板块,产业链中的高性能服务器、交换机、CPO、存储芯片等多细分领域将受益;同时,国产化算力替代亦存在机会,不过国产芯片短期尚存短板。



中国电信首次独立集采AI算力服务器

据中国电信官网消息,公司AI算力服务器(2023-2024年)集采项目已批准,此次招标人为中国电信集团有限公司、中国电信股份有限公司。

记者获悉,本项目分4个标包,分别为训练型风冷服务器(I系列)、训练型液冷服务器(I系列)、训练型风冷服务器(G系列)、训练型液冷服务器(G系列)。预估采购规模为4175台,I系列配套InfiniBand交换机1182台。

值得关注的是,此次集采以训练型服务器为主,实际上近段时间在人工智能、大模型方面中国电信频频发声。2023中国算力大会上,中国电信董事长柯瑞文称,“当前算力基础设施正由通用算力为主向通算、智算、超算一体化演进,为以人工智能为代表的新一轮科技革命和产业变革注入强劲动力。”根据公司最新财报,中国电信持续优化“2+4+31+X+O”算力布局,上半年智算新增1.8EFLOPS,达4.7EFLOPS,增幅62%。7月初,中国电信还首发TeleChat大模型。

中国电信亦同步披露一项智算集采。根据公告,天翼云2023年GPU智算专区建设工程项目现已具备采购条件,拟采取单一来源方式采购。因涉及需要HPC相关性能优化的软件包授权,为华为不可替代的专有技术,本次确定单一来源供应商为华为。


AI高算力需求牵引服务器内高速通信技术迭代升级

AI大模型迭出带来数据处理量指数级增长,带动AI云端算力需求快速拉升。自2022年下半年以来AIGC(AI-Generated Content,人工智能生成内容)实现技术和产业端的快速发展。以OpenAI GPT系列的版本演进为例,从GPT-1(2018.06)到GPT-2(2019.02)、GPT-3(2020.05)、GPT-3.5(2022.11)、GPT-4(2023.03),参数量和语料库持续升级。目前AI超大模型的参数已经达到千亿、甚至万亿数量级,且在训练过程中,各类中间变量均需要存储,以上海量数据对训练场景下的算力和显存需求均提出了高要求。中国信通院预计,2030年全球算力总规模有望达到56ZFlps,2021-2030年CAGR约65%,其中智能算力贡献主要增长动能。

服务器内部各种高速连接需求大幅增长,需要承载量更大的传输通道作为支撑。我们观察到,GPT-3.5模型训练所使用的微软Azure AI云计算平台采用了分布式训练“多卡多机”的模式,涉及大量数据在GPU之间、GPU与CPU、GPU与内存等单元之间的传输,并增加了跨服务器的通信需求,服务器内部板上通信技术迎来大规模升级。此外,AI算力的提升方式,除了依靠单体GPU卡的算力迭代,还需要高速的芯片互联技术作为有力支撑,从而实现多颗GPU之间的高效聚合、提升GPU算力的可扩展性,进而形成强大的集群算力。我们认为,为提升异构并行处理超大数据量的效率,板上芯片间互联、片内Die间互联总线均需升级。

PCIe总线持续升级,NVLink引领服务器内部通信新变革。PCIe平均每三年升级一代标准,目前市场呈现多世代并存局面,我们认为在高性能服务器需求高增趋势下,CPU迭代有望加速PCIe 5.0大规模商用进程;同时,PCIe Retimer和Switch芯片在高速PCIe通路中发挥重要作用,市场空间可期。在AI异构计算场景中,算力的持续增强不仅依赖单张GPU卡的性能提升,还需要多卡高效聚合,NVLink成为实现多GPU间高速互联的关键通道,并引入基于NVLink高级通信能力构建的NVSwitch芯片以解决GPU间通讯不均衡问题,进而构成全带宽连接的多节点GPU集群。

先进封装技术不断进阶,ABF载板景气提升。众核异构方案推动先进封装技术向更高连接密度演进,全球先进封装需求呈增长态势,其中Fan-out、2.5D/3D封装市场增速领跑行业。从先进封装材料看,我们认为ABF载板作为CPU、GPU等高运算性能芯片的重要承载,有望受益于AI浪潮带来的高算力芯片需求激增;同时,Chiplet异构集成下裸片间连接需求增加,ABF载板面积增加、且载板消耗量因良率下降而增加,先进载板需求进一步向上。


PCB高速化带动板材升级,上游树脂材料有望向PPO切换。得益于服务器平台持续迭代、叠加以更高端PCB为算力载体的AI服务器需求高涨,我们认为由M6及以上覆铜板材料制成的超过16层的PCB有望在服务器市场中快速渗透,PCB板有望迎来量价齐升。聚焦覆铜板上游树脂材料,我们看好聚苯醚(PPO)凭借改性后优异的电化学性能(低介电损耗、高加工稳定性、耐热性等)逐步取代传统树脂,在下游高端服务器需求增长、覆铜板高频高速化发展的驱动下,改性PPO市场增长空间广阔。


国产AI服务器市场空间广阔

由于海量数据处理需求激增、AI模型算法渐趋复杂以及算力投资具备的强经济效益,AI算力产业的长期发展前景广阔,迎来投资机遇。

算力是AI产业发展的根基,迎来持续政策支持。数据的快速增长以及算法模型的复杂化需要更强算力的支撑,同时算力还具备极强的经济效益,据统计计算力指数平均每提高1点,国家的数字经济和GDP将分别增长3.5‰和1.8‰,因而成为政府政策支持的重点。目前,我国AI产业已经迎来了以《新一代人工智能发展规划》为顶层定调,各部委、各地方政府政策辅助落地的“1+N”的产业政策体系,进入2023年以来,北京市、深圳市、上海市等地都密集出台AI产业支持政策,行业迎来持续政策催化。

AI服务器市场空间广阔,中国厂商表现亮眼。根据IDC统计,2021年全球AI服务器市场规模为156.3亿美元,预计2026年将增长至347.1亿美元;2021年中国AI服务器市场规模为59.2亿美元,预计2026年将增长至123.4亿美元,长期成长空间广阔。2021年浪潮信息、新华三(紫光股份)、联想的AI基础设施营收增速领跑全球主要厂商,其中浪潮信息市场份额位居全球第一,未来中国AI服务器厂商有望充分受益于下游需求的持续释放,迎来长足发展。

英伟达引领全球AI芯片发展潮流,中国厂商奋起直追,有望超预期发展。在政策与需求的双轮驱动下,中国AI芯片厂商正在奋起直追,尤其是在ASIC路线上加大投入,目前已经涌现出寒武纪、华为昇腾、海光信息、燧原科技等优秀的AI芯片厂商,AI算力性能有显著提升,未来有望实现超预期发展。



Baidu
map