存储巨头之争！英伟达身后的较量
作 者丨骆轶琪
编 辑丨骆一帆
图 源丨图虫
在英伟达一步步站稳万亿市值的道路上，少不了两项关键技术支持——台积电主导的CoWoS高端封装和头部存储厂持续迭代的HBM（高带宽存储）。
英伟达近日发布的新一代GH200 Grace Hopper超级芯片中，就指出将搭载282GB最新HBM3e内存技术的单服务器。预计将在2024年第二季度交付基于该平台的系统。
HBM也成为力挽存储厂商持续下行的一个关键词。数个季度的持续低迷下，头部存储厂商相继展现出二季度收入环比增长趋势，其中以SK海力士（SK Hynix）的表现最为亮眼，背后就离不开由HBM拉动对DRAM运存的需求提升。
伴随生成式AI浪潮，在存储市场一直低三星一头的SK海力士一跃而起，占据全球HBM市场50%的极高份额。
HBM的重要性在于，GPU对大规模并行计算的速率要求在持续提升，但计算过程本身需要算力、存力、运力三者同时匹配，通常存储的读取速度和计算的处理速度之间存在一定时间差，HBM就是为提高传输速率和存储容量应运而生的重要技术路线。
但目前来看，这似乎只成为巨头之间的“游戏”。
群智咨询（Sigmaintell）执行副总经理兼首席分析师陈军对21世纪经济报道记者分析，HBM用于高端GPU和服务器的DRAM，当前主要由三星、SK海力士、美光三家供应产品。由于HBM价格相对较高，服务器市场普遍还是以DDR4和DDR5为主，HBM在整体DRAM中的占比仍然很低。
那么HBM将为存储市场带来什么改变？没有这项技术的存储公司会落后吗？
HBM逆势
由生成式AI引发对HBM及相关高传输能力存储技术的需求，HBM成为存储巨头在下行行情中对业绩的重要扭转力量，这也是近期业绩会上的高频词。
据CFM闪存市场分析，不同于一季度的疲软，可以看到在二季度存储市场明显有所回暖，打破了自2022年二季度以来的连续下滑，重新恢复增长。整体看，二季度全球存储市场规模198.03亿美元，环比增长9%，但不足去年同期的一半，同比下跌54%。
其中SK海力士的环比成长性明显。 据CFM统计，二季度全球NAND Flash原厂的营收平均季度环比增速为5%，但SK海力士增长26.4%、美光增速14.5%，二者是增速最快的头部公司；全球DRAM原厂营收平均季度环比增长11.9%，其中SK海力士增速48.9%，是唯一增速超过双位数的头部厂商。
SK海力士在二季度业绩会上曾表示，季度内AI服务器对DRAM的需求大幅增长，公司DDR5和HBM的出货量增长了一倍以上。 预计到三季度，AI服务器的需求将持续增长，尤其是高密度DDR模块和HBM，以及移动客户的高需求带动。
（AI服务器相比通用服务器对HBM和DDR5的需求大幅提升，图源：SK海力士）
三星在二季度业绩会上曾表示，生成式AI市场应用将带来HBM等支持大规模数据处理的内存产品需求快速增长，公司接到了大量客户需求。预计2023年和2024年HBM的需求可能出现陡峭增长。公司曾经对主要客户独供HBM2，并在后续开展HBM2E业务。
美光在三季度财年业绩会上则直指，AI服务器的DRAM容量是普通服务器的6倍到8倍，NAND容量是普通服务器的3倍。英伟达DGX GH200所需的DRAM容量是普通服务器的数百倍。公司HBM3产品预计在2024财年实现一定收入。
这显示出，在耐用消费品销售承压的背景下，与当下高算力相匹配的高端存储市场需求却很旺盛。
“随着AI和HPC（高性能计算）市场的牵引和快速发展，高性能和高容量DRAM技术的需求将持续增加以支持相应需求，目前HBM是其中被证明过的技术路线。具备该技术能力的公司，将在市场上获得更好份额，同时能进一步提高竞争力和盈利能力。”Counterpoint Research高级分析师Ashwath Rao告诉21世纪经济报道记者，HBM技术的原理是通过将DRAM芯片垂直堆叠，并通过TSV（穿过硅孔）和微凸起相互连接。由于HBM是垂直堆叠，其可以每秒提供TB级别数据，这是人工智能和高性能计算应用程序所需的显著处理能力。
他进一步指出，虽然HBM是一个利基市场，但由于AI技术的远景，其能够很好满足AIGC对存储器的需求，各公司都在探索技术能力提升，包括替代性封装技术、TSV技术，以减少凹凸间距，应用不同的插入方式和混合连接方法。当在选择存储产品时，根据不同的场景应用需求，而在带宽、功耗、成本和可靠性等方面进行平衡。
调研机构TrendForce集邦咨询也指出，目前高端AI服务器GPU搭载HBM已成主流，预估2023年全球HBM需求量将年增近六成，来到2.9亿GB，2024年将再成长三成。 2023年HBM将处于供不应求态势，到2024年供需比有望改善。
不过多名业内人士都对记者表示，HBM在整体存储市场占比较低，目前还不是普及性应用的产品。这也解释了为什么目前似乎竞争都局限在全球三家厂商之间。
迭代赛跑
回顾存储产业的竞争格局，历史上三星在DRAM和NAND Flash两类存储市场，一直占据原厂中超过1/3的市场份额，位居行业第一。只是目前细分到HBM领域来看，SK海力士反而占据更高份额。
据集邦咨询预计，2022年SK海力士占据HBM市场50%的份额，三星占比40%，美光占比10%，三者成为HBM领域的垄断性三巨头。
（HBM市占率预估，图源：集邦咨询）
这某种程度上和SK海力士的率先入局有关。
早在2014年，SK海力士与AMD联合开发了全球首款硅通孔（TSV）HBM产品，这也是该技术的第一代产品，被称为HBM1。 两家公司还联合开发了高带宽三维堆叠存储器技术和相关产品。官方介绍，HBM1的带宽高于DDR4和GDDR5产品，同时以较小的外形尺寸消耗较低的功率，更能满足图形处理单元（GPU）等带宽需求较高的处理器。
此后SK海力士和三星都在进行相关能力迭代。只是受制于应用场景与成本等综合因素平衡考量、技术路线与产业链合作方式也有不同，直到生成式AI浪潮兴起、英伟达GPU需求紧俏，才真正迎来今天对HBM的高关注度。
相比之下，占据相对少份额的美光，则是由于早期的技术路线选择差异，较晚走向HBM领域，才在目前与前两家厂商之间形成一定份额差异。
那么HBM的核心门槛在哪里？ 陈军对21世纪经济报道记者表示，HBM在技术上需要解决内存颗粒堆叠以后与内存控制器互联问题，目前量产的HBM产品主要使用的制程节点是1y/1z等，虽然制程节点不算太高，但其需要下游GPU客户进行良好配合，其多达7000+的引脚数量也形成该工艺的较高壁垒。
因此与客户产品之间的配合沟通调试，如何更好与GPU、NPU这类芯片匹配，实现更大带宽和更好能效，才是HBM技术竞争的关键。
“英伟达在GPU领域处于绝对领先优势，前期开发阶段，英伟达在GPU上需要解决高带宽、低能耗的问题，于是和SK海力士合作开发了HBM存储，并且后续不断迭代完善，为SK海力士在这一领域的竞争优势打下基础。”他进一步分析。
三大原厂的HBM发展进度来看，集邦咨询分析，SK海力士、三星先从HBM3开发，代表产品为NVIDIA H100/H800以及AMD的MI300系列，两大韩国厂商预计于2024年第一季送样HBM3e；美光则选择跳过HBM3，直接开发HBM3e。
该机构指出，2023年HBM市场主流为HBM2e，包含NVIDIA A100/A800、AMD MI200以及多数CSPs自研加速芯片均以此规格设计。为顺应AI加速器芯片需求演进，各存储原厂计划于2024年推出新产品HBM3e，预期HBM3与HBM3e将成为明年市场主流。
谁主沉浮
在头部原厂在竞速HBM迭代的进程下，其他从业者似乎对这一趋势并没有很积极回应。在AI浪潮驱动下，未来HBM会成为影响存储市场竞争的关键要素吗？
（HBM的主要实现方式和成长性，垂直堆叠是其主要特征之一，图源：SK海力士）
多名存储业内人士都对21世纪经济报道记者表示，会关注这一技术的发展进程，但目前其仅限于部分细分市场有较高需求，从商业回报角度看，这似乎并不是能为大多数存储厂都能带来收益的机会型领域。
此外陈军告诉记者，“在HBM领域，除了本身的技术壁垒外，更多依赖于和下游客户的合作关系。长期来看，该领域仍将是海力士、三星占据主要市场。 ”
Ashwath Rao对记者分析，SK海力士、三星、美光三大核心存储厂商都在积极增加资本开支，以扩大他们在HBM领域的产品阵容，市场份额可能会形成三足鼎立的局面。目前市场领导者SK海力士和三星之间将进行积极竞争，任何时候都可能改变现有格局。
“存储厂商在正式发布产品之前，都会更聚焦于持续研发和改进这项技术。三星正扩大其HBM产品供应，同时在提高其封装技术能力，由此可以更好将HBM和GPU更好集成，以此满足AI的应用需求。”他进一步分析，三星将用其独特的封装能力和HBM技术提供给客户。三星也在聚焦于强化其2.5D/3D异构集成封装技术的开发，以作为系统性解决方案更好满足HPC和AI客户的应用需求，以此方式来试图增加其市场份额。“在未来，三星可以通过其在芯片制造和封装环节的能力，并把产品进一步扩展到汽车、5G和IoT领域应用。”
作为IDM大厂，三星一直在积极推进对先进工艺的迭代，也为AI相关技术需求做了储备。
三星在此前的业绩会上曾介绍过，其在全球率先量产的GAA FET工艺就是为实现AI芯片性能优化的先进工艺节点，计划于2025年实现2纳米GAA工艺量产。
集邦咨询指出，目前SK海力士HBM3产品领先其他原厂，是英伟达服务器GPU的主要供应商；三星则着重满足其他云端服务业者的订单。在客户加单下，2023-2024年这两家厂商的HBM市占率预估相当，合计将占HBM市场约95%份额。美光在今年专注开发HBM3e产品，相较前述两家韩厂大幅扩产的规划，预期今明两年美光的市占率会受排挤效应而略为下滑。
“目前HBM产品占整体存储的出货量仍然非常小，长期来看，随着消费电子产品向AI化发展，对于高算力、高存储、低能耗将是主要诉求方向，鉴于此预计HBM也将成为未来存储厂商的技术发展方向。”陈军对记者表示，HBM属于近期火热的存算一体式产品，目前其主流的die为16Gb，层数是4-8层，未来die会升级到24Gb，层数往8-12层发展。
SFC
本期编辑 刘雪莹 实习生 宋佳遥
巨头相继减产！存储产业二季度筑底
存储大厂收购案被猝然叫停
英伟达最新突破！透露黄仁勋的野心
英伟达身后的较量
作 者丨骆轶琪
编 辑丨骆一帆
图 源丨图虫
在英伟达一步步站稳万亿市值的道路上，少不了两项关键技术支持——台积电主导的CoWoS高端封装和头部存储厂持续迭代的HBM（高带宽存储）。
英伟达近日发布的新一代GH200 Grace Hopper超级芯片中，就指出将搭载282GB最新HBM3e内存技术的单服务器。预计将在2024年第二季度交付基于该平台的系统。
HBM也成为力挽存储厂商持续下行的一个关键词。数个季度的持续低迷下，头部存储厂商相继展现出二季度收入环比增长趋势，其中以SK海力士（SK Hynix）的表现最为亮眼，背后就离不开由HBM拉动对DRAM运存的需求提升。
伴随生成式AI浪潮，在存储市场一直低三星一头的SK海力士一跃而起，占据全球HBM市场50%的极高份额。
HBM的重要性在于，GPU对大规模并行计算的速率要求在持续提升，但计算过程本身需要算力、存力、运力三者同时匹配，通常存储的读取速度和计算的处理速度之间存在一定时间差，HBM就是为提高传输速率和存储容量应运而生的重要技术路线。
但目前来看，这似乎只成为巨头之间的“游戏”。群智咨询（Sigmaintell）执行副总经理兼首席分析师陈军对21世纪经济报道记者分析，HBM用于高端GPU和服务器的DRAM，当前主要由三星、SK海力士、美光三家供应产品。由于HBM价格相对较高，服务器市场普遍还是以DDR4和DDR5为主，HBM在整体DRAM中的占比仍然很低。
那么HBM将为存储市场带来什么改变？没有这项技术的存储公司会落后吗？
HBM逆势
由生成式AI引发对HBM及相关高传输能力存储技术的需求，HBM成为存储巨头在下行行情中对业绩的重要扭转力量，这也是近期业绩会上的高频词。
据CFM闪存市场分析，不同于一季度的疲软，可以看到在二季度存储市场明显有所回暖，打破了自2022年二季度以来的连续下滑，重新恢复增长。整体看，二季度全球存储市场规模198.03亿美元，环比增长9%，但不足去年同期的一半，同比下跌54%。
其中SK海力士的环比成长性明显。据CFM统计，二季度全球NAND Flash原厂的营收平均季度环比增速为5%，但SK海力士增长26.4%、美光增速14.5%，二者是增速最快的头部公司；全球DRAM原厂营收平均季度环比增长11.9%，其中SK海力士增速48.9%，是唯一增速超过双位数的头部厂商。
SK海力士在二季度业绩会上曾表示，季度内AI服务器对DRAM的需求大幅增长，公司DDR5和HBM的出货量增长了一倍以上。 预计到三季度，AI服务器的需求将持续增长，尤其是高密度DDR模块和HBM，以及移动客户的高需求带动。
（AI服务器相比通用服务器对HBM和DDR5的需求大幅提升，图源：SK海力士）
三星在二季度业绩会上曾表示，生成式AI市场应用将带来HBM等支持大规模数据处理的内存产品需求快速增长，公司接到了大量客户需求。预计2023年和2024年HBM的需求可能出现陡峭增长。公司曾经对主要客户独供HBM2，并在后续开展HBM2E业务。
美光在三季度财年业绩会上则直指，AI服务器的DRAM容量是普通服务器的6倍到8倍，NAND容量是普通服务器的3倍。英伟达DGX GH200所需的DRAM容量是普通服务器的数百倍。公司HBM3产品预计在2024财年实现一定收入。
这显示出，在耐用消费品销售承压的背景下，与当下高算力相匹配的高端存储市场需求却很旺盛。
“随着AI和HPC（高性能计算）市场的牵引和快速发展，高性能和高容量DRAM技术的需求将持续增加以支持相应需求，目前HBM是其中被证明过的技术路线。具备该技术能力的公司，将在市场上获得更好份额，同时能进一步提高竞争力和盈利能力。”Counterpoint Research高级分析师Ashwath Rao告诉21世纪经济报道记者，HBM技术的原理是通过将DRAM芯片垂直堆叠，并通过TSV（穿过硅孔）和微凸起相互连接。由于HBM是垂直堆叠，其可以每秒提供TB级别数据，这是人工智能和高性能计算应用程序所需的显著处理能力。
他进一步指出，虽然HBM是一个利基市场，但由于AI技术的远景，其能够很好满足AIGC对存储器的需求，各公司都在探索技术能力提升， 包括替代性封装技术、TSV技术，以减少凹凸间距，应用不同的插入方式和混合连接方法。当在选择存储产品时，根据不同的场景应用需求，而在带宽、功耗、成本和可靠性等方面进行平衡。
调研机构TrendForce集邦咨询也指出，目前高端AI服务器GPU搭载HBM已成主流，预估2023年全球HBM需求量将年增近六成，来到2.9亿GB ，2024年将再成长三成。 2023年HBM将处于供不应求态势，到2024年供需比有望改善。
不过多名业内人士都对记者表示，HBM在整体存储市场占比较低，目前还不是普及性应用的产品。这也解释了为什么目前似乎竞争都局限在全球三家厂商之间。
迭代赛跑
回顾存储产业的竞争格局，历史上三星在DRAM和NAND Flash两类存储市场，一直占据原厂中超过1/3的市场份额，位居行业第一。只是目前细分到HBM领域来看，SK海力士反而占据更高份额。
据集邦咨询预计，2022年SK海力士占据HBM市场50%的份额，三星占比40%，美光占比10%，三者成为HBM领域的垄断性三巨头。
（HBM市占率预估，图源：集邦咨询）
这某种程度上和SK海力士的率先入局有关。
早在2014年，SK海力士与AMD联合开发了全球首款硅通孔（TSV）HBM产品，这也是该技术的第一代产品，被称为HBM1。 两家公司还联合开发了高带宽三维堆叠存储器技术和相关产品。官方介绍，HBM1的带宽高于DDR4和GDDR5产品，同时以较小的外形尺寸消耗较低的功率，更能满足图形处理单元（GPU）等带宽需求较高的处理器。
此后SK海力士和三星都在进行相关能力迭代。只是受制于应用场景与成本等综合因素平衡考量、技术路线与产业链合作方式也有不同，直到生成式AI浪潮兴起、英伟达GPU需求紧俏，才真正迎来今天对HBM的高关注度。
相比之下，占据相对少份额的美光，则是由于早期的技术路线选择差异，较晚走向HBM领域，才在目前与前两家厂商之间形成一定份额差异。
那么HBM的核心门槛在哪里？陈军对21世纪经济报道记者表示，HBM在技术上需要解决内存颗粒堆叠以后与内存控制器互联问题，目前量产的HBM产品主要使用的制程节点是1y/1z等，虽然制程节点不算太高，但其需要下游GPU客户进行良好配合，其多达7000+的引脚数量也形成该工艺的较高壁垒。
因此与客户产品之间的配合沟通调试，如何更好与GPU、NPU这类芯片匹配，实现更大带宽和更好能效，才是HBM技术竞争的关键。
“英伟达在GPU领域处于绝对领先优势，前期开发阶段，英伟达在GPU上需要解决高带宽、低能耗的问题，于是和SK海力士合作开发了HBM存储，并且后续不断迭代完善，为SK海力士在这一领域的竞争优势打下基础。”他进一步分析。
三大原厂的HBM发展进度来看，集邦咨询分析，SK海力士、三星先从HBM3开发，代表产品为NVIDIA H100/H800以及AMD的MI300系列，两大韩国厂商预计于2024年第一季送样HBM3e；美光则选择跳过HBM3，直接开发HBM3e。
该机构指出，2023年HBM市场主流为HBM2e，包含NVIDIA A100/A800、AMD MI200以及多数CSPs自研加速芯片均以此规格设计。为顺应AI加速器芯片需求演进，各存储原厂计划于2024年推出新产品HBM3e，预期HBM3与HBM3e将成为明年市场主流。
谁主沉浮
在头部原厂在竞速HBM迭代的进程下，其他从业者似乎对这一趋势并没有很积极回应。在AI浪潮驱动下，未来HBM会成为影响存储市场竞争的关键要素吗？
（HBM的主要实现方式和成长性，垂直堆叠是其主要特征之一，图源：SK海力士）
多名存储业内人士都对21世纪经济报道记者表示，会关注这一技术的发展进程，但目前其仅限于部分细分市场有较高需求，从商业回报角度看，这似乎并不是能为大多数存储厂都能带来收益的机会型领域。
此外陈军告诉记者，“在HBM领域，除了本身的技术壁垒外，更多依赖于和下游客户的合作关系。 长期来看，该领域仍将是海力士、三星占据主要市场。”
Ashwath Rao对记者分析，SK海力士、三星、美光三大核心存储厂商都在积极增加资本开支，以扩大他们在HBM领域的产品阵容，市场份额可能会形成三足鼎立的局面。目前市场领导者SK海力士和三星之间将进行积极竞争，任何时候都可能改变现有格局。
“存储厂商在正式发布产品之前，都会更聚焦于持续研发和改进这项技术。三星正扩大其HBM产品供应，同时在提高其封装技术能力，由此可以更好将HBM和GPU更好集成，以此满足AI的应用需求。”他进一步分析，三星将用其独特的封装能力和HBM技术提供给客户。三星也在聚焦于强化其2.5D/3D异构集成封装技术的开发，以作为系统性解决方案更好满足HPC和AI客户的应用需求，以此方式来试图增加其市场份额。“在未来，三星可以通过其在芯片制造和封装环节的能力，并把产品进一步扩展到汽车、5G和IoT领域应用。”
作为IDM大厂，三星一直在积极推进对先进工艺的迭代，也为AI相关技术需求做了储备。
三星在此前的业绩会上曾介绍过，其在全球率先量产的GAA FET工艺就是为实现AI芯片性能优化的先进工艺节点，计划于2025年实现2纳米GAA工艺量产。
集邦咨询指出，目前SK海力士HBM3产品领先其他原厂，是英伟达服务器GPU的主要供应商；三星则着重满足其他云端服务业者的订单。 在客户加单下，2023-2024年这两家厂商的HBM市占率预估相当，合计将占HBM市场约95%份额。 美光在今年专注开发HBM3e产品，相较前述两家韩厂大幅扩产的规划，预期今明两年美光的市占率会受排挤效应而略为下滑。
“目前HBM产品占整体存储的出货量仍然非常小，长期来看，随着消费电子产品向AI化发展，对于高算力、高存储、低能耗将是主要诉求方向，鉴于此预计HBM也将成为未来存储厂商的技术发展方向。 ”陈军对记者表示，HBM属于近期火热的存算一体式产品，目前其主流的die为16Gb，层数是4-8层，未来die会升级到24Gb，层数往8-12层发展。
SFC
本期编辑 黎雨桐 实习生 宋佳遥
英伟达单季净利润大涨超800%，AI热销伴随冷思考
英伟达第二财季营收翻倍净利润增逾8倍，黄仁勋：生成式人工智能的竞赛已经开始
利润率达1000%，谁在抢购英伟达H100？
相关问答
micron是什么牌子?美国美光。micron是Micron(美光)于1978年由WardParkinson、JoeParkinson、DennisWilson和DougPitman在美国爱达荷州波夕创立,主要产品包括DR...
inand是什么文件?inand是一个文件系统的缩写,全称为"InternalNANDFlashDisk",意为内部NAND闪存磁盘。它是一种用于嵌入式系统中的存储设备,通常用于存储操作系统、应用...
长江存储可以自产晶圆吗?长江存储可以生产晶圆。作为一家集芯片设计、工艺研发、晶圆生产与测试、销售服务于一体的半导体存储器企业,长江存储为全球客户提供先进的存储产品和解决方...
上海有哪些好的电子厂?上海的电子厂很多。好的也很多。上海比较知名的有:1、广大电脑:2000年12月7日,全球最大的笔记本电脑生产商——广达电脑在上海松江出口加工区投资1.7亿美金...
重庆半导体芯片厂有几家?位于重庆北碚区水土工业园区,工厂总投资约30亿元。超硅半导体主要生产,芯片的晶圆体,我相当于说,没有这晶钻晶圆体,压根就不能生产芯片,公司旨在重庆投资...
生产芯片的 公司 有哪些?咱们大陆的中芯国际是芯片制造公司,咱们台湾省的台积电是全球第一的芯片制造公司;台积电是全球第一家芯片代工企业,与英特尔、三星的经营模式,差别很大!英...1...
海太半导体行业地位?您好,海太半导体是中国大陆最大的半导体晶圆代工企业之一,成立于1997年。公司主要从事芯片制造和设计服务,包括DRAM、NANDFlash、CMOS图像传感器等产品。海太...
兆易创新器件研发岗位待遇?待遇不错。兆易创新技术先进,效益良好,是一家非常好的高科技上市公司。北京兆易创新科技股份有限公司于2005年4月6日在北京市工商行政管理局登记成立。法定...
半导体有哪些厂商?全球五大半导体生产厂商排行:1.英特尔名副其实的半导体龙头企业,主要经营计算机配件、CPU,1971年英特尔研制出了全球第一个微处理器,2014年研制出了至强处...
鲜京海力士是什么?鲜京海力士是Hynix海力士芯片生产商。是韩国品牌。前身为1983年成立的现代电子产业株式会社,1996年正式在韩国上市,1999年收购LG半导体,2001年从现代集团分...
扫一扫微信交流