電子發燒友網報道（文/黃晶晶）在早前的報道中，對于HBM產能是否即將過剩，業界有不同的聲音，但絲毫未影響存儲芯片廠商對HBM產品升級的步伐。

三大廠商12層HBM3E進展

9月26日SK海力士宣布公司已開始量產12H HBM3E芯片，實現了現有HBM產品中最大的36GB容量。該產品堆疊12顆3GB DRAM芯片，實現與現有的8層產品相同的厚度，同時容量提升50%。運行速度提高至9.6Gbps，這是在以搭載四個HBM的單個GPU運行大型語言模型（LLM）“Llama 3 70B”時，每秒可讀取35次700億個整體參數的水平。SK海力士將在年內向客戶提供12層HBM3E。


圖源：SK海力士

另外，SK海力士今年初曾公開單一堆疊的速度可達1280 GB/s的16層48GB HBM3E概念產品。據韓媒最新報道，SK海力士近期經內部檢驗，已成功確保16層HBM3E性能特性。

今年9月，美光宣布推出12 層堆疊HBM3E。美光表示，隨著 AI 工作負載的不斷發展和擴充，記憶體頻寬和容量對提升系統效能越來越關鍵。業界最新的 GPU 需要最高效能的高頻寬記憶體（HBM）、龐大的記憶體容量以及更高的功耗效率。為滿足這些需求，美光走在記憶體創新的最前線，目前正在向主要產業合作伙伴提供可量產的 HBM3E 12 層堆疊記憶體，并在整個 AI 生態系統進行認證。

圖源：美光科技

美光領先的 1?（1-beta）記憶體技術和先進的封裝技術確保資料流以最高效的方式進出 GPU。美光的 8 層堆疊和 12 層堆疊 HBM3E 記憶體進一步推動 AI 創新，功耗比競爭對手低 30%。美光的 8 層堆疊 24GB HBM3E 已與 NVIDIA H200 Tensor Core GPU 一起出貨，并且可量產的 12 層堆疊 36GB HBM3E 也已上市。

美光提到，公司HBM3E 12 層堆疊 36GB 與競爭對手的 8 層堆疊 24GB 產品相比，不僅功耗大幅降低，而且封裝中的DRAM容量增加了50%。可讓擁有 700 億個參數的大型 AI 模型（如 Llama 2）運行于單個處理器上。容量的增加避免了 CPU 卸載和 GPU-GPU 通訊延遲，因此能更快地取得洞見。

美光 HBM3E 12 層堆疊 36GB 提供每秒超過 1.2 TB/s 的記憶體頻寬，Pin 速度超過每秒 9.2 Gb。美光 HBM3E 以最低的功耗提供最大的吞吐量。

此外，美光 HBM3E 12 層堆疊記憶體還整合了完全可編程 MBIST，能夠以全規格速度運行系統典型流量，為加快驗證提供了更大的測試覆蓋范圍，縮短了產品上市時間，并提高了系統可靠性。

美光在其最新財報中表示，已從第四財季(2024年6-8月)開始向主要行業合作伙伴交付可量產的12層HBM3E（36GB），預計將在2025年初提高12層HBM3E產量，并在2025年全年增加該產品出貨。

美光稱HBM在2024年和2025年均已售罄，且定價已確定。到2025年和2026年，將擁有更加多元化的HBM收入狀況，因為美光已憑借行業領先的HBM3E解決方案贏得了廣泛HBM客戶的業務。

韓媒此前報道，三星電子于今年2月首次推出了HBM3E 12H。在2024 年第 2 季度財報電話會議上，三星公司高管表示，已經準備好量產 12 層 HBM3E 芯片，我們將根據多家客戶的需求計劃，在今年下半年擴大供應。

同時，三星表示，第五代 8 層 HBM3E 產品已交付客戶評估，計劃 2024 年第 3 季度開始量產。總之，HBM3E 芯片在三星 HBM 中所占的份額預計將在第三季度超過 10%，并有望在第四季度迅速擴大到 60%。

HBM PHY和控制器，上游IP不斷拓展

芯片IP廠商主要提供包括處理器核、內存控制器、接口協議、圖形處理單元等集成電路設計中的知識產權組件。這些可復用的IP核能夠提高設計效率、降低成本、縮短產品上市時間?。目前包括新思、Rambus、創意電子、合見工軟、芯耀輝等等廠商都推出了HBM IP 解決方案。

Synopsys新思科技提供完整的 DesignWare HBM IP 解決方案，包括控制器、PHY 和驗證 IP，以滿足高性能計算、AI 和圖形應用領域的片上系統 (SoC) 設計對高帶寬和低功耗內存的強烈需求。該 IP 支持 HBM2、HBM2E 和 HBM3 規范所要求的功能，已經過硅驗證，可實現高達 921 GB/s 的高帶寬。

Rambus也積極布局HBM內存市場，去年底推出數據傳輸速率高達9.6Gb/s的HBM3內存控制器IP，可幫助大幅提高AI性能。Rambus的這一內存控制器IP產品是經過驗證的，可支持所有HBM3產品，也包括最新的HBM3E內存設備。

最近，創意電子宣布其3納米HBM3E控制器和實體層IP已獲云端服務供應商（CSP）及多家高效運算（HPC）解決方案供應商采用。這款尖端ASIC預計將于2024年投片，并將采用最新的9.2Gbps HBM3E技術。此外，創意電子也積極與HBM供應商（如美光）合作，為下一代AI ASIC 開發HBM4 IP。

創意電子的 HBM3E IP 已通過臺積電 N7 / N6、N5 / N4P、N3E / N3P 先進工藝制程技術的驗證，與所有主流 HBM3 廠商產品兼容，且在臺積電 CoWoS-S 及 CoWoS-R 先進封裝技術上都進行了流片驗證。除人工智能應用領域之外，創意也期待相關HBM IP可繼續為高效能運算、網絡和汽車等各種應用提供支持。

芯耀輝科技致力于為中國大算力產業提供高速接口IP解決方案。芯耀輝成功研發出全套自研接口IP，涵蓋了PCIe、Serdes、DDR、HBM、D2D、USB、MIPI、HDMI、SATA，SD/eMMC等最先進協議標準，并構建了一套全棧式完整IP解決方案。

前不久，合見工軟新品發布涵蓋有UniVista HBM3/E IP，該產品包括HBM3/E內存控制器、物理層接口（PHY）和驗證平臺，采用低功耗接口和創新的時鐘架構，實現了更高的總體吞吐量和更優的每瓦帶寬效率，可幫助芯片設計人員實現超小PHY面積的同時支持最高9.6 Gbps的數據速率，解決各類前沿應用對數據吞吐量和訪問延遲要求嚴苛的場景需求問題，可廣泛應用于以AI/機器學習應用為代表的數據與計算密集型SoC等多類芯片設計中，已實現在AI/ML、數據中心和HPC等領域的國內頭部IC企業中的成功部署應用。

小結：

根據集邦咨詢的報告，HBM3e 12hi是2024年下半年市場關注的重點。預計于2025年英偉達推出的Blackwell Ultra將采用8顆HBM3e 12hi，GB200也有升級可能，再加上B200A的規劃，因此，預估2025年12hi產品在HBM3e當中的比重將提升至40%，且有機會上升。英偉達是HBM市場的最大買家，在Blackwell Ultra、B200A等產品推出后，英偉達在HBM市場的采購比重將突破70%。

產能方面，CFM閃存市場數據顯示，預計至2024年底三星、SK海力士和美光合計達到30萬片的HBM月產能，其中三星HBM增產最為激進。預計明年全球HBM市場規模將上望300億美元，HBM將占DRAM晶圓產能約15%至20%。