美光警示 AI 存儲牆加劇，HBM 約佔 Meta Llama 3 訓練中斷 17%

據 TrendForce 報道，在 Hot Chips 2026 上，美光強調 AI 算力進步快於存儲提升，“存儲牆”挑戰日益突出。美光 Fellow Raghu Sriramaneni 指出，AI 加速器算力約每兩年提升三倍，而 HBM 帶寬同期增幅不足兩倍，差距可能進一步擴大。對 HBM 依賴加深也帶來可靠性問題，美光援引 Meta Llama 3 數據稱，HBM 故障約佔非預期訓練中斷的 17%。模糊計算與存儲邊界的新設計或有助於突破瓶頸。HBM 擴展還帶來面積與供應壓力：最新一代封裝將兩顆 GPU 與八個 12 層 HBM4 堆棧集成，存儲約佔半導體面積 90%，超過 GPU 所佔面積的八倍；以 HBM 實現同等容量約需標準 DDR5 DRAM 三倍晶圓。熱管理亦成關鍵約束，液冷與超薄芯片等方案正被探索。美光正推進互連、封裝與冷卻創新，包括面向存儲優化的 SerDes 與 die-to-die PHY、更大尺寸 SiP 與玻璃基板先進封裝，以及液冷、混合鍵合等，並開發 fusion bonding 以降低熱阻並提升數據吞吐。