輝達執行長黃仁勳近期表示,市場對於Blackwell需求「很瘋狂」,再度點燃AI熱潮!Blackwell是輝達提出的GPU架構,其將帶動運算和生成式AI的突破發展,而GB200伺服器機櫃更是被市場譽為地表最強。不過,強大算力背後,不僅是用電需求增加,更是散熱的一大考驗,水冷式(Liquid Cooling)、浸沒式(Immersion Cooling)等技術受到重視,本文將一窺AI最新產業趨勢與散熱發展,並盤點有哪些相關台廠搶攻市場商機。
市場高度關注的輝達GB200 NVL72,根據輝達官網指出,其機架連接36個Grace CPU和72個Blackwell GPU,相對於H100,可將大型語言模型的訓練速度提升四倍,且採用節能基礎架構,水冷GB200 NVL72機架可減少資料中心的碳足跡和能源消耗,與H100氣冷式基礎架構相比,GB200可在相同功率下提供25倍的效能。
根據外媒報導,輝達高層也在近期表示,Blackwell GPU產品「未來12個月已被訂光」,顯示其市場反應熱烈,但市場盛傳,GB200可能因設計缺陷,導致延後出貨,但理周投研部認為,先不論是否會延遲,即使延後出貨,也終究會出貨,所以還是有利相關台廠,觀察輝達GB200相關供應鏈,除了鴻海(2317)、廣達(2382)與緯創(3231)等公司,散熱產業也蓄勢待發。
氣冷還不夠? 水冷式方案漸成趨勢
隨著輝達持續推進算力,市場高度關注散熱產業,根據市場資料指出,傳統伺服器一個機櫃耗電可能約4kW(千瓦),但現在的AI伺服器,一個機櫃消耗80kW恐成為常態,隨著算力提高,散熱需求也不斷推升,氣冷式方案(Air Cooling)無法勝任的情況下,水冷式方案(Liquid Cooling)、浸沒式冷卻方案(Immersion Cooling)逐漸成為市場顯學,新需求的背後往往有新商機,台廠持續發展相關散熱方案和零組件,包括冷水板(Cold Plate)、分歧管(Manifold)、冷卻分配系統(CDU)等,而本期聚焦在Sidecar機櫃。
Sidecar(Liquid to Air,水對氣)機櫃,通常內建散熱芯片、風扇等,放置於AI伺服器機櫃旁,作為散熱之用,運作方式通常是透過液體將AI伺服器熱能,導入Sidecar機櫃內進行散熱。至於Sidecar需求量,根據晟銘電(3013)近期法說會的說明,GB200 NVL 36的Power可能達60kW,由於目前Sidecar可解熱約80kW左右,因此GB200 NVL 36可能都會搭配一台Sidecar機櫃,至於GB200 NVL 72的Power可能達120kW,理論上就是配置兩台Sidecar。
晟銘電進一步指出,大型CSP廠採購NVL72通常不會只買一櫃,若一次採購10櫃GB200 NVL 72,可能就要搭配20櫃Sidecar,但因為Sidecar屬於新領域,市場還在摸索,且暫時無制式規格,因此可能也會有廠商將Sidecar做得更胖,來解更多的熱,價格可能不容易估算。隨著GB200 NVL72上市,可望帶動Sidecar機櫃出貨,相關公司有機會開始挹注營運表現。
晟銘電、光寶科、建準 積極搶佔Sidecar商機
晟銘電(3013)擁機櫃技術能力,根據法說會資料顯示,近期1U和2U GB200機箱已進入打樣階段,在液冷與機櫃散熱整合方面,公司發展EIA、OCP、MGX Cooling Racks、Manifold製造以及Sidecar機櫃等。
光寶科(2301)擁有深耕超過40年的電源實力,致力提供NVIDIA生態系夥伴一站式的解決方案,根據光寶科六月新聞稿指出,公司預計推出由NVIDIA Blackwell驅動的液冷方案:liquid to air(水對氣)100kW sidecar(櫃式氣冷)。而Liquid to Air-sidecar相關產品,目前已輝達獲得認證。
建準(2421)為全球通風散熱大廠,根據公司新聞稿指出,建準於今年OCP全球峰會展出自行研發的氣體輔助液體冷卻方案,氣冷輔助液冷散熱櫃(Sidecar),可與AI伺服器機櫃合併,用來解決高階運算的熱能,公司積極布建專業液冷散熱團隊,並建置Sidecar標準性能量測實驗室。
輝達市值直逼蘋果 GB200未來展望
理周投研部指出,黃仁勳日前談話提及Blackwell需求暢旺,市場紛紛猜測下單客戶是誰?法人推測GB200 NVL72伺服器機櫃要價約300萬美元,恐怕只有大型雲端服務供應商(CSP)有能力負擔,至於實際客戶與訂單狀況可持續留意。
輝達近期市值直逼蘋果!不過今年以來,GB200遇到許多挑戰,市場質疑與雜音不斷,但隨著台廠法說會陸續召開,產業大多仍看好GB200發展,隨著未來出貨與放量,相關供應鏈有望受惠。