《半導體新聞摘要》
生成式人工智慧仰賴大型語言模型的訓練,現在的做法是分三階段,
第一個階段是「預訓練」、第二個階段是「微調」、最後一個階段是「推論」。
預訓練需要大量的圖形處理器運算,但是微調就不一樣,而是需要大量的高頻寬記憶體(HBM)。
-
Barron’s、MarketWatch等外電報導,Baird分析師Tristan Gerra以記憶體報價轉強為由,將美光投資評等從「中立」調高至「表現優於大盤」,今(2024)年目標價從原本的115美元上修至150美元。
Gerra指出,HBM看來像是正在成形的全新超級循環,推升美光毛利率的潛力前所未見,跟NAND型快閃記憶體的初期現象很類似。美光的HBM3E毛利率有望超過60%,預計到了今年底,該公司的HBM市佔率有望達到7~9% (high-single-digit)。
-
威剛表示,累計2024 年前四月合併營收為 147.29 億元,較 2023 年同期增加超過五成。威剛董事長陳立白指出,AI 終端應用產品於第三季起陸續上市後,可望帶動下半年及明年更多 AI 需求湧現,因此上游供應商無不加速轉進 HBM 與 DDR5 產品,但目前HBM生產難度與產能耗用率都相當高,在有限的產能供給下,2024 年 DRAM 價格欲小不易。
-
根據 TrendForce 資深研究副總吳雅婷表示,受惠於 HBM 銷售單價較傳統型 DRAM(Conventional DRAM)高出數倍,相較 DDR5 價差大約五倍,加上 AI 晶片相關產品更新也促使 HBM 單機搭載容量擴大,促使 2023~2025 年 HBM 之於 DRAM 產能及產值占比均大幅向上。
供應商議價時間提早於第二季,有三大原因,
其一,HBM買方對於AI需求展望仍具高度信心,願意接受價格續漲。
其二,HBM3e的TSV良率目前僅約40%~60%,仍有待提升,加上並非三大原廠都已經通過HBM3e的客戶驗證,故HBM買方也願意接受漲價,以鎖定品質穩定的貨源。
其三,未來HBM每Gb單價可能因DRAM供應商的可靠度,以及供應能力產生價差,對 於供應商而言,未來平均銷售單價將會因此出現差異,並進一步影響獲利。
展望2025年,由主要AI解決方案供應商的角度來看,HBM規格需求大幅轉向HBM3e,且將會有更多12hi的產品出現,帶動單晶片搭載HBM的容量提升。
TrendForce預估,2024年的HBM需求位元年成長率近200%,2025年可望將再翻倍。
***資料來源:
https://www.ctee.com.tw/news/20240506700004-430501
https://www.ctee.com.tw/news/20240507700076-430501
https://technews.tw/2024/05/06/hbm-dram-2025/
https://finance.technews.tw/2024/05/07/micron-dram-hbm/
https://finance.technews.tw/2024/05/07/micron-dram-hbm/
-