輝達(Nvidia Corp.)執行長黃仁勳(Jensen Huang、見圖)直指,就算對手提供免費AI晶片,也無法跟自家的繪圖處理器(GPU)競爭。他並暗示,輝達次世代DGX伺服器將採用水冷散熱(liquid cooling)技術。
Tom`s Hardware 10日報導,黃仁勳8日在史丹佛大學舉行的SIEPR經濟峰會指出,輝達GPU效能好到,就算對手免費提供晶片,還是不夠便宜。他解釋,以AI資料中心的總體擁有成本(total cost of ownership, TCO)來看,輝達GPU定價其實真的不高。
黃仁勳指出,地球上的競爭狀況無人可敵,即使是輝達的客戶、在部分案例也會成為競爭對手。此外,輝達也積極協助客戶設計替代性的AI處理器,甚至向客戶揭露輝達接下來的晶片路線圖。
黃仁勳並宣稱,輝達的營運猶如一本「完全公開的書」。他說,輝達GPU是可程式的,旗下平台更是每一家雲端運算企業的極佳標竿。因此,希望資料中心能支援金融服務、製造等多元產業的業者,自然就會傾向使用輝達硬體。
黃仁勳在談及DGX伺服器非常壯麗(magnificent and beautiful)的同時,直指這些伺服器將採取水冷散熱科技。他並提到,次世代DGX伺服器「即將問世」,暗示或許輝達的次世代繪圖卡也快要出爐。
黃仁勳並未特別指名DGX,只有在論及當今GPU、AI處理器的效能時,說到「我們其中一款電腦和即將問世的次世代機種,都會使用水冷技術」。由於輝達唯一一個聚焦AI的電腦就是DGX,因此合理推論,黃仁勳指的是DGX。
戴爾爆料B200明年推
戴爾(Dell Technologies Inc.)營運長Jeff Clarke 2月29日盤後於財報電話會議指出,內建次世代AI繪圖處理器(GPU)的伺服器不但吸引大量關注、接單狀況也強勁,這些AI GPU包括輝達的H200及超微(AMD)的MI300X。他說,H100前置時間雖開始縮短,但需求仍持續超出供給。
Barron`s、Tom`s Hardware、Wccftech 3月1日報導,根據戴爾電話會議逐字稿,Clarke當時還在電話會議提到,輝達採次世代架構Blackwell的AI GPU「B200」將於明(2025)年問世,單顆GPU功耗達1,000瓦。這比H100、H200需要的700瓦多約43%。相較之下,AMD MI300X的功耗為750瓦。
Clarke表示,B100、B200令人振奮,這是另一個展示工程差異性的機會;戴爾在散熱方面的特色,不需要直接液體冷卻(Direct Liquid Cooling)技術,就可達到單顆1,000瓦GPU的能量密度。