继英伟达之后，全球多个科技巨头都在竞购SK海力士的第五代高带宽内存 HBM3E。半导体行业内部人士称，各大科技巨头已经在向SK海力士请求获取HBM3E样本，包括 AMD、微软和亚马逊等等。   

AMD最近透露了其下一代GPU MI300X，表示它将从SK海力士和三星电子获得HBM3供应。除英伟达和AMD之外，亚马逊和微软则是云服务领域的两大巨头，之前已引入生成式人工智能技术，并大幅追加了对于AI领域的投资。            

报道称，SK海力士正忙于应对客户对HBM3E样品的大量请求，但满足英伟达首先提出的样品数量要求非常紧迫。

随着AI技术不断发展，AI训练、推理所需计算量呈指数级增长，2012年至今计算量已扩大30万倍。处理AI大模型的海量数据，需要宽广的传输“高速公路”即带宽来吞吐数据。今年5月，英伟达宣布推出大内存AI超级计算机DGX GH200，该产品集成最多达256个GH200超级芯片，是DGX A100的32倍。机构推测，在同等算力下，HBM存储实际增量为15.6倍。 

HBM全称High Bandwidth Memory，即高带宽内存，是一种新兴的DRAM解决方案。HBM具有基于TSV（硅通孔）和芯片堆叠技术的堆叠DRAM架构，简而言之就是将内存芯片堆叠到一个矩阵里，再将其堆栈置于CPU或GPU的旁边，通过uBump和Interposer （中介层，起互联功能的硅片）实现超快速连接。Interposer再通过Bump和 Substrate（封装基板）连通到BALL，最后BGA BALL 再连接到PCB上。   

HBM一定程度可以看作GDDR的替代品，其将DDR芯片堆叠在一起后和GPU封装在一起，实现大容量，高位宽的DDR组合阵列。GDDR作为独立封装，在PCB上围绕在处理器的周围，而HBM则排布在硅中阶层（Siliconlnterposer）上并和GPU封装在一起，面积一下子缩小了很多，举个例子，HBM2比GDDR5直接省了94%的表面积。并且，HBM离GPU更近了，这样数据传输也就更快了。 

通俗来讲，HBM通过垂直连接多个DRAM，显著提高数据处理速度。它们与CPU、GPU协同工作，可以极大提高服务器性能。其带宽相比DRAM大幅提升，例如SK海力士的HBM3产品带宽高达819GB/s。同时，得益于TSV技术，HBM的芯片面积较GDDR大幅节省。

AIGC时代为HBM带来的需求增量主要体现在两方面：一方面，单颗GPU需要配置的单个HBM的Die层数增加、HBM个数增加；另一方面，大模型训练需求提升拉动对AI服务器和AI芯片需求，HBM在2023年将需求明显增加，价格也随之提升。

TrendForce集邦咨询指出，为提升整体AI服务器的系统运算效能，以及存储器传输带宽等，NVIDIA、AMD、Intel等高端AI芯片中大多选择搭载HBM。      

国盛证券指出，HBM最适用于AI训练、推理的存储芯片。受AI服务器增长拉动，HBM需求有望在2027年增长至超过6000万片。Omdia则预计，2025年HBM市场规模可达25亿美元。 

存储行业当前处于周期较为底部的位置，供给收窄有利于减缓价格下降。有业内消息人士透露，由于人工智能服务器需求激增，高带宽内存（HBM）价格已开始上涨。

而根据CFM和Trendforce，部分DRAM与NAND产品将于2023年三季度实现价格上涨，预计存储行业有望在下半年迎来复苏。集邦咨询预计，目前英伟达A100、H100、AMD MI300，以及大型云服务提供商谷歌、AWS等自主研发的ASIC AI服务器增长需求较为强劲，预计2023年AI服务器出货量（含GPU、FPGA、ASIC等）在120万台，年增长率近38%。AI芯片出货量同步看涨，预计今年将增长50%。

目前，全球前三大存储芯片制造商正将更多产能转移至生产HBM，但由于调整产能需要时间，很难迅速增加HBM产量，预计未来两年HBM供应仍将紧张。另据韩媒报道，三星计划投资1万亿韩元（约合7.6亿美元）扩产HBM，目标明年底之前将HBM产能提高一倍，公司已下达主要设备订单。      

据悉，三星已收到AMD与英伟达的订单，以增加HBM供应。本次三星将在天安工厂展开扩产，该厂主要负责半导体封装等后道工艺。HBM主要是通过垂直堆叠多个DRAM来提高数据处理速度，因此只有增加后段设备才能扩大出货量。三星计划生产目前正在供应的HBM2和HBM2E等产品，并计划于下半年量产8层堆叠HBM3和12层HBM3E。       

值得一提的是，6月已有报道指出，另一存储芯片巨头SK海力士已着手扩建HBM产线，目标将HBM产能翻倍。扩产焦点在于HBM3，SK海力士正在准备投资后段工艺设备，将扩建封装HBM3的利川工厂。预计到今年年末，后段工艺设备规模将增加近一倍。

实际上，2023年开年后三星、SK海力士的HBM订单快速增加，之前另有消息称HBM3较DRAM价格上涨5倍。而业内预计，明年三星与SK海力士都将进一步扩大投资规模。由于谷歌、苹果、微软等科技巨头都在筹划扩大AI服务，HBM需求自然水涨船高，“若想满足未来需求，三星、SK海力士都必须将产能提高10倍以上。”   

AI背后的算力需求推动了HBM市场的快速成长，而AI之外，HBM凭借出色的传输性能，同样广受其他市场欢迎。         

除了AI服务器，汽车也是HBM值得关注的应用领域。汽车中的摄像头数量所有这些摄像头的数据速率和处理所有信息的速度都是天文数字，想要在车辆周围快速传输大量数据，HBM具有很大的带宽优势。但是最新的HBM3目前还没有取得汽车认证，外加高昂的成本，所以迟迟还没有“上车”。不过，Rambus的高管曾提出HBM 绝对会进入汽车应用领域。 

AR和VR也是HBM未来将发力的领域。因为VR和AR系统需要高分辨率的显示器，这些显示器需要更多的带宽来在 GPU 和内存之间传输数据。而且，VR和AR也需要实时处理大量数据，这都需要HBM的超强带宽来助力。         

此外，智能手机、平板电脑、游戏机和可穿戴设备的需求也在不断增长，这些设备需要更先进的内存解决方案来支持其不断增长的计算需求，HBM也有望在这些领域得到增长。并且，5G 和物联网（loT) 等新技术的出现也进一步推动了对 HBM的需求。  

存储市场原本就是一个高度集中的半导体领域，而HBM作为DRAM的一种，其市场也被三巨头瓜分。目前技术走在最前面的是SK海力士，并且它也拥有第一的市占率，高达50%，紧随其后的是三星，市占率约40%，美光约占10%。预计到2023年，SK 海力士市占率有望提升至 53%，而三星、美光市占率分别为38%及9%。

下游厂商主要是CPU/GPU厂商，如英特尔、英伟达以及AMD。因为HBM是与GPU封装在一起的，所以HBM的封装基本也由晶圆代工厂一同包揽完成，而晶圆代工厂商包括、格芯等也在发力HBM相关技术。  

总的来说，HBM的竞争还是在SK 海力士、三星以及美光之间展开。2013年SK海力士将TSV技术应用于DRAM，在业界首次成功研发出第一代HBM芯片。此后，SK海力士相继推出HBM2、HBM2E、HBM3数代产品。据悉，SK海力士正在研发HBM4，预计新一代产品将能够更广泛地应用于高性能数据中心、超级计算机和AI等领域。SK海力士CFO金祐贤表示，公司正关注着市场上出现以AI为基础的新服务器替换存储器需求的积极信号。公司计划持续投资DDR5/LPDDR5、HBM3等主力产品的量产和未来高成长领域。   

三星电子虽然在HBM的开发上落后一步，但也在寻找新的突破口。据悉，三星电子正在开发集成AI处理器新一代存内计算芯片HBM-PIM。北京大学信息科学技术学院微纳电子学系副教授叶乐表示，存内计算芯片是将AI引擎引入存储库，将处理操作转移到HBM本身，将有效加大数据传输带宽，提高内存的处理速度。存内计算技术正在实现产品化。目前基于SRAM的存内计算，已经进入到产品化的前夜，DRAM存内计算适用于大算力AI芯片，因此还需要解决其他一系列的技术难题。  

美光科技则走得较慢，于2020年7月宣布大规模量产HBM2E，HBM3也仍作为其产品线在持续研发之中。 

诚然，HBM的市场基本被海外巨头所占据，但芯片储存的自主可控仍是当下产业发展的重要方向，而从原材料、配件到封装，国产半导体产业链同样能够在HBM生态找到属于自己的位置。  

在原材料供应方面，国内雅克科技主要致力于电子半导体材料，深冷复合材料以及塑料助剂材料研发和生产，本身就是SK海力士、LG显示的核心供应商，并进入合肥长鑫、长江存储、京东方等国内龙头客户，旗下UPChemical是全球领先的半导体级SOD和前驱体产品供应商，同样是SK海力士的核心供应商，有望充分分享HBM市场成长红利。而HBM属于先进封装的一种，因叠层厚度较高因此需要用特殊的颗粒塑封料封装（GMC），全球真正GMC技术只有2家日系公司（S公司和R公司）掌握，国内企业华海诚科同样在该领域有所布局。       

除原材料供应外，通富微电、国芯科技等企业则在封装领域具有一定优势。此外，HBM中先进DRAM加工工艺和TSV加工工艺中是必不可少的工艺环节，国内中微公司、拓荆科技等企业同样有所布局。         

随着HBM产业链国产化热度持续发酵下，相信HBM国产化也只是时间问题。