AI熱潮帶火了HBM，韓國第一、美國第二，中國呢？

由AI大模型驅動的新一輪AI熱潮，引爆了AI芯片需求，也帶火了HBM。

隨著AI芯片需求持續大增，作為目前AI芯片當中極為關鍵的器件，HBM（High Bandwidth Memory，高帶寬內存）已出現供不應求。

近日美光在發布最近一季財報時表示，HBM今年已售罄，明年絕大多數產能已被預訂。此前，SK海力士也曾透露，旗下的HBM今年已經全部售罄。

HBM為什么這么搶手？

因為HBM可以有效解決“內存墻”問題。隨著人工智能發展和數據爆炸式增長，存儲器訪問速度跟不上處理器數據處理速度，出現了 “存”“算”性能失配的“內存墻”。

HBM通過堆疊多個DRAM芯片，形成了高度集成的模塊，可以在更小的空間內提供更大的容量和更高的帶寬。同時，HBM的電壓和電流也低于傳統存儲，從而降低了能耗。

與傳統DRAM相比，HBM具備高帶寬、高容量、低延時與低功耗等優勢，可以加快AI數據處理速度，更適用于大模型等高性能計算場景。

據了解，在面對AI大模型的千億乃至萬億級別的參數時，服務器中的計算核心GPU幾乎必須搭載HBM，如NVIDIA H100、A100、A800以及AMD MI250、MI250X系列，基本都配備了HBM。

自2014年首款硅通孔HBM產品問世至今，HBM技術已經發展至第四代，分別是HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代），HBM芯片容量從1GB升級至24GB，帶寬從128GB/s提升至819GB/s，數據傳輸速率也從1Gbps提高至6.4Gbps。

伴隨AI芯片迅速迭代，所需HBM搭載量和技術要求隨之提高。如近日GTC 2024上英偉達發布的新一代架構Blackwell及B200 GPU，通過搭載8顆HBM3E實現192GB內存容量和8TB/s的帶寬。

可以說，HBM已成為GPU的“強助攻”。

英偉達聯合創始人兼CEO黃仁勛曾表示“HBM是一個技術奇跡。”他認為，HBM可以提高能源效率，并且隨著耗電的人工智能芯片變得更加普遍，可以幫助世界變得更加可持續。

根據市場研究公司Yole Group 2月8日發布的數據，2023年至2028年間，HBM供應的年復合增長率將達到45%。

目前全球只有SK海力士(SK Hynix)、三星電子(Samsung)和美光科技(Micron Technology)3家公司能夠量產HBM。 受市場需求推動，這三家HBM大廠正紛紛加大產能擴張力度。

據報道，為了確保HBM的穩定供應，英偉達已向SK海力士和美光支付了數億美元的預付款。近期，三星電子也結束了產品測試，并與英偉達簽訂了HBM產品供應協議。

從全球市場格局看，韓國企業處于絕對領先的第一梯隊。

SK海力士是技術領先并擁有最高市場份額的公司，其市場占有率為50%。SK海力士實際上是AI芯片領導者英偉達的HBM3芯片的唯一供應商。

緊隨其后的是三星，市場占有率約為40%。三星一直在HBM上投入巨資追趕，于2月份宣布開發出HBM3E 12H——這是迄今為止容量最高的HBM產品。三星表示，將于今年上半年開始量產該芯片。

韓國政府高度重視HBM，最近將HBM指定為國家戰略技術，并列出多項措施鼓勵相關企業。

2月27日，韓國企劃財政部公布了《2023年稅法修正案后續執行規則修正案草案》，對被納入韓國國家戰略技術的高帶寬存儲器（HBM）等，進一步擴大稅收支持。該項政策將惠及SK海力士、三星等企業。

美光作為美國企業，占據了大約10%的市場份額，屬于第二梯隊。

美光2月27宣布量產8層24GB HBM3E，確認供貨英偉達H200。美光于3月出樣12層36GB HBM3E，預期25年量產。隨著HBM3E實現量產，美光力圖實現份額追趕。

過去一年,美光股價上漲了70%

HBM需求激增推高了美光的業績，該公司剛剛公布的最新財季營收同比大增57.7%，遠高于華爾街預期。HBM有望成為美光的“創收新引擎”。美光管理層預計，整個2024財年HBM產品將帶來“數億美元”級別的營收。

海外HBM大廠在比拼，國內廠商也在行動。

據武漢新芯近期發布的《高帶寬存儲芯粒先進封裝技術研發和產線建設》招標項目稱，利用三維集成多晶圓堆疊技術，打造國產高帶寬存儲器(HBM)產品，擬新增16臺套設備，實現月產出能力3000片的目標。

除了武漢新芯外，國內還有包括材料供應商和封裝公司等對HBM興趣濃厚，如同富微電子、捷電和SJ半導體，已經具備了HBM封裝技術，開發了專為HBM設計的高密度扇出封裝解決方案。

總體來說，國產HBM正處于0到1的突破期。隨著國產AI芯片需求快速增長，對HBM也將有強烈的供應保障訴求和國產化訴求，國內加快發展HBM勢在必行！