早先，據(jù)報道三星最新的 HBM3 和 HBM3E 內(nèi)存堆棧面臨挑戰(zhàn)。由于過熱和功耗問題，它們未能通過英偉達的測試。這一挫折對三星來說意義重大，因為 英偉達在全球 AI 應用處理器市場占據(jù)主導地位。但這對于 英偉達來說可能是一個問題，因為它需要盡可能多的 HBM 供應來滿足其基于 Hopper 和 Blackwell 架構(gòu)的處理器的需求。

從形式上看，三星的 HBM3E 內(nèi)存堆棧是業(yè)內(nèi)速度最快的，額定數(shù)據(jù)傳輸率高達 9.8 GT/s。三星于 4 月底正式開始生產(chǎn) 24 GB 和 36 GB HBM3E。然而，路透社的報道稱，三星的部分 HBM3 和 HBM3E 設備無法通過 英偉達針對特定產(chǎn)品的驗證，但具體細節(jié)尚未透露。

三星拒絕對具體客戶發(fā)表評論，但該公司解釋說，它正在與許多全球合作伙伴密切合作開發(fā) HBM 產(chǎn)品，并將繼續(xù)改進其技術(shù)和性能。

韓國媒體 Chosun Biz 報道稱，三星 8 層 HBM3E 和 12 層 HBM3E 封裝工藝被傳存在一些質(zhì)量管理問題。據(jù)韓國業(yè)內(nèi)人士透露，三星在 HBM 封裝工藝中引入 TC-NCF 時似乎遇到了良率問題。

另一位業(yè)內(nèi)人士透露，三星的 HBM3E 樣品的功耗是 SK 海力士的兩倍多，這也是為什么自 2024 年 4 月以來就有多個客戶提出這個問題。特別是針對支持 36GB 大容量的 12 層產(chǎn)品，三星以 TC-NCF 技術(shù)為基礎，最大程度緩解晶圓翹曲問題，并在有限的封裝高度下嘗試堆疊更多的層數(shù)。

不過，成均館大學化學工程系教授權(quán)錫俊指出，三星所采用的 TC-NCF 技術(shù)，理論上有利于堆疊高層數(shù)，但結(jié)果發(fā)現(xiàn)封裝上的良率可能低于預期。權(quán)錫俊還指出，8 層以上 HBM 封裝技術(shù)的核心是 TSV（Through Silicon Via）技術(shù)，但三星的 8 層 HBM 產(chǎn)品尚未進行妥善的品質(zhì)管理，而 12 層 HBM 產(chǎn)品也可能會出現(xiàn)類似的問題。

韓國尤金投資證券研究員分析稱，三星面臨良率問題以及相關(guān)業(yè)務經(jīng)驗不足，即便在 DDR5 等先進 DRAM 領域，三星也面臨良率下滑等問題。

目前，英偉達的 GPU 采用的是 HBM3 作為顯存，SK Hynix 自 2024 年 3 月起開始向 英偉達出貨 8 層 HBM3E，其 12 層 HBM3E 產(chǎn)品也正在認證中。

現(xiàn)代證券研究中心預計，三星 8 層 HBM3E 產(chǎn)品最早將于 2024 年第三季度上市，12 層 HBM3E 產(chǎn)品預計最早將于 2024 年第四季度上市。但由于三星 HBM3E 尚未通過英偉達的測試，因此 2024 年能否成功量產(chǎn)仍有待觀察。

SK 海力士與美光 HBM3E 進展

相比之下，競爭對手 SK 海力士和美光科技已成功向英偉達供應 HBM3 和 HBM3E 模塊。

2024 年 3 月 SK 海力士宣布，其最新的超高性能 AI 內(nèi)存產(chǎn)品 HBM3E 已開始量產(chǎn)，并于 3 月下旬開始向客戶供貨。

SK 海力士產(chǎn)量主管 Kwon Jae-soon 在 5 月向英國媒體表示，該企業(yè)的 HBM3E 內(nèi)存良率已接近 80%。Kwon Jae-soon 也提到，SK 海力士目前已將 HBM3E 的生產(chǎn)周期減少了 50%。更短的生產(chǎn)用時意味著更高的生產(chǎn)效率，可為英偉達等下游客戶提供更充足的供應。

這位高管再次確認 SK 海力士今年的主要重點是生產(chǎn) 8 層堆疊的 HBM3E，因為該規(guī)格目前是客戶需求的核心。Kwon Jae-soon 表示：「在這個人工智能時代，提高產(chǎn)量對于保持領先地位變得越來越重要。」

美光也在 3 月宣布已開始量產(chǎn)其 HBM3E 高帶寬內(nèi)存 解決方案。英偉達 H200 Tensor Core GPU 將采用美光 8 層堆疊的 24GB 容量 HBM3E 內(nèi)存，并于 2024 年第二季度開始出貨。美光 8Hi HBM3E 內(nèi)存已開始大批量出貨，可在截至 8 月末的本財年中貢獻數(shù)億美元的收入。對于 12 層堆疊 36GB HBM3E，美光目標到 2025 年實現(xiàn)大批量生產(chǎn)。

在季度財報的電話會議上，美光 CEO 桑杰?梅赫羅特拉（Sanjay Mehrotra）表示，相對于傳統(tǒng)內(nèi)存，HBM 對晶圓量的消耗明顯更高。在同一節(jié)點生產(chǎn)同等容量的情況下，目前最先進的 HBM3E 內(nèi)存對晶圓量的消耗是標準 DDR5 的三倍，并且預計隨著性能的提升和封裝復雜度的加劇，在未來的 HBM4 上這一比值將進一步提升。這也意味著產(chǎn)能十分緊俏，梅赫羅特拉表示，美光的 HBM 產(chǎn)能到 2025 年的都基本被預定完畢。

三星在滿足英偉達要求方面遇到的困難意味著美光和 SK 海力士將擁有更好的商機，這兩家公司能否滿足英偉達對 HBM3E 內(nèi)存日益增長的需求。不過也有觀點認為，英偉達想要提高價格談判能力，需要將 HBM 供應鏈分散化，因此英偉達也將繼續(xù)測試三星 HBM 產(chǎn)品。與此同時，三星能否向 AMD 等其他公司供應其 HBM3E 設備尚不清楚。