HBM(High Bandwidth Memory),意為高帶寬存儲(chǔ)器,作為一款新型CPU/GPU 內(nèi)存芯片,其具備高帶寬、高容量、低功耗等優(yōu)勢(shì),契合了大模型時(shí)代對(duì)高算力和大存儲(chǔ)的迫切需求,被公認(rèn)為“最適用于AI 訓(xùn)練、推理的存儲(chǔ)芯片”。目前HBM 已成為AI 服務(wù)器、數(shù)據(jù)中心、汽車駕駛等高性能計(jì)算領(lǐng)域的標(biāo)配,未來的適用市場(chǎng)仍在不斷拓寬,需求持續(xù)高增。
在HBM領(lǐng)域,目前市場(chǎng)供應(yīng)仍由海外存儲(chǔ)三大巨頭SK海力士、三星以及美光所壟斷,國產(chǎn)HBM正處于0到1的突破期。值得關(guān)注的是,美國即將對(duì)HBM輸華實(shí)施新的限制措施,制裁加碼或?qū)⒊蔀镠BM國產(chǎn)化加速演進(jìn)的催化劑。國內(nèi)存儲(chǔ)廠商將同時(shí)受益于供應(yīng)鏈國產(chǎn)份額的提升及存儲(chǔ)芯片行業(yè)的景氣周期復(fù)蘇,板塊有望迎來戴維斯雙擊,建議關(guān)注國內(nèi)HBM上下游相關(guān)產(chǎn)業(yè)鏈的投資機(jī)遇。
自ChatGPT爆火之后,國內(nèi)外大廠爭(zhēng)相競(jìng)逐AI大模型。AI大模型的基礎(chǔ),就是靠海量數(shù)據(jù)和強(qiáng)大算力來支撐訓(xùn)練和推理過程,越發(fā)龐大的并行數(shù)據(jù)處理需求也對(duì)算力和帶寬提出了更高的要求。簡(jiǎn)單來說,GPU處理器負(fù)責(zé)提供算力,算力決定了每秒處理數(shù)據(jù)的速度;存儲(chǔ)器負(fù)責(zé)提供帶寬,帶寬決定了每秒可訪問的數(shù)據(jù)。然而在過去20年中,存儲(chǔ)和計(jì)算并沒有同步發(fā)展,硬件的峰值計(jì)算能力增加了90000倍,而內(nèi)存硬件互連帶寬卻只是提高了30倍。當(dāng)存儲(chǔ)的性能跟不上處理器,對(duì)指令和數(shù)據(jù)的搬運(yùn)時(shí)間將會(huì)大大超過處理器運(yùn)算所消耗時(shí)間,此時(shí),能夠打破“內(nèi)存墻”的高帶寬內(nèi)存HBM便應(yīng)運(yùn)而生,成為高算力芯片的首選搭配。
HBM作為全新一代的CPU/GPU內(nèi)存芯片,HBM本質(zhì)上是指基于2.5/3D先進(jìn)封裝技術(shù),把多塊DRAM(動(dòng)態(tài)隨機(jī)存儲(chǔ)器)堆疊起來后與GPU芯片封裝在一起,實(shí)現(xiàn)大容量,高位寬的DDR組合陣列。(見圖一)華福證券指出,和傳統(tǒng)的動(dòng)態(tài)隨機(jī)存儲(chǔ)器DRAM相比,HBM具有高帶寬、低功耗、小尺寸三大特點(diǎn):
1)高帶寬:HBM采用了存算一體的近存計(jì)算架構(gòu),不通過外部連線的方式與CPU或GPU集成,而是通過中介層緊湊而快速地連接,同時(shí)通過堆棧結(jié)構(gòu)的改變來增加引腳數(shù)量,以實(shí)現(xiàn)更高帶寬。
2)低功耗:HBM的垂直堆疊結(jié)構(gòu)減少了數(shù)據(jù)傳輸?shù)木嚯x,從而降低了功耗;同時(shí),TSV(硅通孔)技術(shù)的應(yīng)用也有助于減少功耗。
3)小尺寸:HBM由于與GPU封裝在一塊,使得內(nèi)存模塊的尺寸大大減小,有助于實(shí)現(xiàn)更緊湊的系統(tǒng)設(shè)計(jì)。目前,主流數(shù)據(jù)中心GPU均采用HBM技術(shù),英偉達(dá)V100、A100、H100系列與AMDMI100、MI200、MI300系列均應(yīng)用HBM內(nèi)存,HBM在數(shù)據(jù)中心GPU中逐漸占據(jù)核心地位。
自2014年SK海力士發(fā)布首款硅穿孔HBM產(chǎn)品至今,HBM技術(shù)已經(jīng)發(fā)展至第五代,分別為HBM1/2/2E/3/3E,代際升級(jí)主要體現(xiàn)在數(shù)據(jù)速率和容量密度上,HBM芯片容量從1GB升級(jí)至24GB,帶寬從128GB/s提升至1.2TB/s,數(shù)據(jù)傳輸速率從1Gbps提高至9.2Gbps。據(jù)海力士表示,未來HBM的開發(fā)周期已縮短至大約1年。據(jù)TrendForce預(yù)計(jì),HBM主流將在2024年移轉(zhuǎn)至HBM3與HBM3E,而HBM412hi(12層)有望于2026年推出,HBM416hi(16層)產(chǎn)品預(yù)計(jì)2027年問世。
HBM市場(chǎng)格局集中,主要被存儲(chǔ)器三大巨頭韓國SK海力士、三星以及美國美光所壟斷。根據(jù)Trend‐Force數(shù)據(jù),預(yù)計(jì)2024年SK海力士在HBM市場(chǎng)中的市占率預(yù)計(jì)為47-49%,三星電子的市占率為47-49%、美光的市占率為3-5%。TrendForce基于三星、海力士和美光的出貨口徑測(cè)算,2023年全球HBM產(chǎn)業(yè)收入達(dá)43.5億美元,預(yù)計(jì)2024年快速增長至183億美元,同比漲幅超過300%,2025年預(yù)計(jì)漲幅仍超過100%,景氣持續(xù)高增。
國內(nèi)方面,由于受制于DRAM和先進(jìn)封裝量產(chǎn)工藝,仍處于積極研發(fā)狀態(tài),尚無大規(guī)模量產(chǎn)產(chǎn)品。隨著中國智能化、數(shù)字化、信息化技術(shù)的的深入發(fā)展,各大領(lǐng)域?qū)τ诟咝阅軆?chǔ)存器產(chǎn)品的需求將持續(xù)增長,加之HBM應(yīng)用領(lǐng)域向智能駕駛、通信設(shè)備等領(lǐng)域拓展,中國市場(chǎng)的HBM需求量預(yù)計(jì)將保持較高的增速。
值得注意的是,美國商務(wù)部工業(yè)和安全局(BIS)于12月2日發(fā)布了新一輪對(duì)華半導(dǎo)體出口管制措施,主要包括5個(gè)方向:對(duì)24種半導(dǎo)體制造設(shè)備和3種用于開發(fā)或生產(chǎn)半導(dǎo)體的軟件工具實(shí)施新的管制;對(duì)高帶寬存儲(chǔ)器(HBM)實(shí)施新的管制;針對(duì)合規(guī)和轉(zhuǎn)移問題的新的“紅旗警告”;在“實(shí)體清單”中新增加140個(gè)名單并進(jìn)行14項(xiàng)修改,涵蓋中國大多數(shù)核心設(shè)備制造商、半導(dǎo)體晶圓廠和投資公司;以及幾項(xiàng)關(guān)鍵的監(jiān)管變化,以增強(qiáng)先前管制的有效性。
其中,HBM作為先進(jìn)計(jì)算和人工智能(AI)應(yīng)用的重要存儲(chǔ)器組件,受到特別管控。不光是美國生產(chǎn)的HBM在管制范圍,包含美國技術(shù)的外國生產(chǎn)HBM,根據(jù)“先進(jìn)計(jì)算直接產(chǎn)品規(guī)則”,這些產(chǎn)品也需遵守規(guī)定。HBM相關(guān)廠商申請(qǐng)?jiān)S可證的要求也更加嚴(yán)格,如果HBM被用于先進(jìn)計(jì)算、AI模型訓(xùn)練或推理,則需要出口許可證。若相關(guān)設(shè)備或技術(shù)的最終用戶涉及國家安全風(fēng)險(xiǎn)或敏感實(shí)體清單上的機(jī)構(gòu),則默認(rèn)拒絕許可。
為進(jìn)一步細(xì)化控制范圍,美國商務(wù)部更新了對(duì)先進(jìn)節(jié)點(diǎn)DRAM的定義,改為以下兩種新的判定標(biāo)準(zhǔn)之一:一方面是高存儲(chǔ)密度標(biāo)準(zhǔn),內(nèi)存密度超過0.288Gb/mm2的DRAM;另一方面是存儲(chǔ)單元面積標(biāo)準(zhǔn),單元面積小于0.0019μm2。通過明確存儲(chǔ)單元面積、存儲(chǔ)密度及HBM的三維堆疊技術(shù)等標(biāo)準(zhǔn),美國對(duì)HBM嚴(yán)防死守,對(duì)存儲(chǔ)芯片的控制更加精細(xì)化。
按照美國商務(wù)部公告的說法,最新的這一系列措施是目前為止最嚴(yán)格的戰(zhàn)略性出口管控,同時(shí)還不加掩飾地指出,其宣布的所有政策變化都是為了限制中國自主生產(chǎn)先進(jìn)技術(shù)的能力,延緩中國開發(fā)人工智能的能力、削弱中國本地化先進(jìn)半導(dǎo)體生態(tài)系統(tǒng)。
就目前來看,若美國HBM禁令如期生效,美光作為美國本土企業(yè),受限于出口管制,無法向中國大陸出售先進(jìn)HBM產(chǎn)品,韓系廠商三星、SK海力士在中國市場(chǎng)的業(yè)務(wù)拓展或也將受到潛在的影響與阻礙。
回顧歷史,每一次美對(duì)華核心科技的重大制裁都間接快速推動(dòng)了我國半導(dǎo)體產(chǎn)業(yè)的巨大進(jìn)步。2018年-2019年,美國商務(wù)部宣布7年內(nèi)禁止美企與中興通訊開啟任何業(yè)務(wù)、華為被列入實(shí)體清單,這是美國開啟對(duì)我國半導(dǎo)體領(lǐng)域技術(shù)限制的開端,也是我國終端公司重視供應(yīng)鏈安全、采用中國芯的開始;2020年,BIS將中國芯片制造商中芯國際列入實(shí)體清單,同時(shí)全球芯片產(chǎn)能急劇緊張,該階段芯片國產(chǎn)化進(jìn)程大大加速。
回到HBM領(lǐng)域,當(dāng)前國內(nèi)部分企業(yè)雖有一定的DRAM和先進(jìn)封裝技術(shù)基礎(chǔ),但掌握的DRAM工藝制程仍明顯落后于國際水平,在此背景下,美國制裁的加碼或?qū)⒌贡茋鴥?nèi)存儲(chǔ)制造商提高面對(duì)供應(yīng)鏈中斷和技術(shù)挑戰(zhàn)問題下的自主可控能力,加速獨(dú)立研發(fā)進(jìn)程,進(jìn)一步推動(dòng)產(chǎn)業(yè)鏈自主化。未來隨著國內(nèi)廠商在生產(chǎn)過程中不斷積累經(jīng)驗(yàn)和完善工藝,有望實(shí)現(xiàn)HBM的量產(chǎn)突破,將使半導(dǎo)體領(lǐng)域的國產(chǎn)替代進(jìn)程再次提速,自主可控進(jìn)程邁上新臺(tái)階。
下一篇文章,我們將就HBM產(chǎn)業(yè)鏈及投資機(jī)會(huì)展開梳理。