NVIDIA Blackwell平臺(tái)和ASIC芯片升級(jí)助力,2025年液冷散熱滲透率超過(guò)20%
2024年09月23日 17:38 北京
TrendForce最新調(diào)查,NVIDIA Blackwell新平臺(tái)預(yù)定第四季出貨,幫助液冷散熱方案滲透率明顯增長(zhǎng),從今年10%左右至2025年突破20%。全球ESG意識(shí)提升,加上CSP加速部署AI服務(wù)器,有助帶動(dòng)散熱方案從氣冷轉(zhuǎn)向液冷。
觀察全球AI服務(wù)器市場(chǎng),今年主要AI方案供應(yīng)商仍是NVIDIA。單就GPU AI服務(wù)器市場(chǎng)而言,NVIDIA有絕對(duì)領(lǐng)先優(yōu)勢(shì),市場(chǎng)占有率逼近90%,排名第二的AMD僅約8%。
TrendForce觀察,今年NVIDIA Blackwell出貨規(guī)模尚小,因供應(yīng)鏈持續(xù)執(zhí)行產(chǎn)品最終測(cè)試驗(yàn)證等流程,如高速傳輸、散熱設(shè)計(jì)等有待繼續(xù)優(yōu)化。新平臺(tái)因能耗較高,尤其GB200整柜式方案需更佳散熱效率,有望帶動(dòng)液冷方案滲透率。然既有服務(wù)器生態(tài)系采液冷比例尚低,對(duì)漏液或散熱性能不佳問(wèn)題,ODM仍須歷經(jīng)學(xué)習(xí)曲線后得出最佳解。TrendForce預(yù)估2025年Blackwell平臺(tái)高端GPU占比有望超過(guò)80%,促使電源供應(yīng)廠商、散熱企業(yè)等將競(jìng)相投入AI液冷市場(chǎng),形成新產(chǎn)業(yè)競(jìng)合態(tài)勢(shì)。
臺(tái)廠1H25有望供應(yīng)快接頭,Google積極布局液冷方案
近年Google、AWS和微軟等大型美系云計(jì)算企業(yè)皆加速部署AI服務(wù)器,以搭載NVIDIA GPU及自研ASIC為主。TrendForce了解,NVIDIA GB200 NVL72機(jī)柜熱設(shè)計(jì)功耗(TDP)高達(dá)約140kW,須采液冷方案才能解決散熱問(wèn)題,以水對(duì)氣(Liquid-to-Air,L2A)為主流。HGX和MGX等其他架構(gòu)Blackwell服務(wù)器因密度較低,氣冷散熱為主方案。
就云計(jì)算企業(yè)自研AI ASIC來(lái)說(shuō),Google TPU除了氣冷方案, 也布局液冷散熱,是最積極采液冷方案的美系企業(yè),BOYD及Cooler Master為冷水板(Cold Plate)主要供應(yīng)商。中國(guó)阿里巴巴最積極擴(kuò)建液冷數(shù)據(jù)中心,其他云計(jì)算企業(yè)AI ASIC主要仍采氣冷散熱。
TrendForce指出,云計(jì)算企業(yè)將指定GB200機(jī)柜液冷散熱方案的關(guān)鍵零部件供應(yīng)商,冷水板主要企業(yè)為奇??及Cooler Master,分歧管(Manifold)是Cooler Master和雙鴻,冷卻分配系統(tǒng)(Coolant Distribution Unit,CDU)為Vertiv及臺(tái)達(dá)電。防漏水關(guān)鍵零件快接頭(Quick Disconnect,QD)采購(gòu)仍以CPC、Parker Hannifin、Denfoss和Staubli等海外廠商為主,臺(tái)灣供應(yīng)商嘉澤、富世達(dá)等在驗(yàn)證階段,2025上半年臺(tái)廠有機(jī)會(huì)加入快接頭供應(yīng)商行列,有助逐步緩解供不應(yīng)求局面。
AI芯片過(guò)熱怎么解?3種服務(wù)器散熱方式一次看
在更深度切入散熱賽局之前,必須先對(duì)散熱方式有初步的了解,目前大致分為3種:氣冷、液冷以及浸沒(méi)式。
氣冷散熱:還是有高度市場(chǎng)需求
氣冷是目前數(shù)據(jù)中心或是一般企業(yè)機(jī)房最廣泛使用的散熱方法,就像讓服務(wù)器吹冷氣,透過(guò)風(fēng)扇、鰭片、導(dǎo)熱管等方式帶走熱能。而氣冷散熱若要提高到最強(qiáng)的散熱效果,就要使用到熱管結(jié)合熱板設(shè)計(jì)的高階氣冷技術(shù)3D VC(Vapor Chamber),并加上大量的風(fēng)扇來(lái)散熱。
雖然風(fēng)量風(fēng)速越快,熱對(duì)流速度就越快,但是不可能一直無(wú)限上綱,震動(dòng)、噪音都會(huì)為服務(wù)器或工作場(chǎng)域帶來(lái)負(fù)面影響。
中國(guó)臺(tái)灣氣冷散熱的元件供應(yīng)商有奇鋐、雙鴻、建準(zhǔn)、尼得科超眾、高力及臺(tái)達(dá)電等。高力副總經(jīng)理吳俊英表示,目前氣冷散熱在市場(chǎng)需求還是很有空間,因?yàn)镠100芯片用氣冷就可以散熱,但當(dāng)GB系列的芯片出貨之后,液冷取代氣冷的速度就會(huì)加快。
液冷散熱:現(xiàn)在各家廠商追求的最大市場(chǎng)
液冷又稱為直接式液冷(DLC,Direct liquid cooling),可細(xì)分成水對(duì)氣和水對(duì)水。
水對(duì)氣:利用水冷管線帶走芯片的熱能之后,變熱的水再透過(guò)水管傳送到機(jī)柜后的風(fēng)扇背門,將熱能吹散,進(jìn)而達(dá)到散熱效果。
水對(duì)氣的散熱方案是現(xiàn)有數(shù)據(jù)中心在氣冷散熱的物理極限下,所因應(yīng)的對(duì)策。因?yàn)椴恍枰笠?guī)模修改機(jī)房或者服務(wù)器的機(jī)柜設(shè)備,只要加裝一個(gè)風(fēng)扇背門,就可以加強(qiáng)散熱效果,目前約有6~七成的數(shù)據(jù)中心還是使用這樣的散熱方式。
然而水對(duì)氣雖然是目前的最適解,卻也不是最佳解,加裝的風(fēng)扇墻會(huì)讓機(jī)房噪音達(dá)到90~100分貝(車水馬龍的路旁大約是80分貝),工作人員根本無(wú)法在機(jī)房?jī)?nèi)長(zhǎng)時(shí)間作業(yè)。
水對(duì)水:將裝滿冷卻液的密封管線(或稱封閉式冷卻回路)環(huán)繞在服務(wù)器內(nèi)最容易發(fā)熱的關(guān)鍵零組件附近,零組件透過(guò)導(dǎo)熱銅片將熱能傳導(dǎo)到冷卻液,再透過(guò)液冷管線進(jìn)行冷熱液體的交換循環(huán)。與水對(duì)氣最大的差異在于,服務(wù)器機(jī)柜背后不需要再使用風(fēng)扇墻,大大提高機(jī)房空間使用率和降低機(jī)房噪音。
英偉達(dá)的高階芯片GB200 NB072就是采用水對(duì)水的液冷散熱。而此架構(gòu)也是目前許多服務(wù)器代工廠商,如超微、技嘉子公司技鋼、緯穎、英業(yè)達(dá)、云達(dá)等已投入的技術(shù)。
浸沒(méi)式散熱:是未來(lái)散熱圣杯?
浸沒(méi)式冷卻,顧名思義就是將整臺(tái)服務(wù)器放進(jìn)不導(dǎo)電的液體當(dāng)中,就像泡澡一樣解熱,且不只解決芯片的熱,連同CPU、存儲(chǔ)等各種服務(wù)器中的電子設(shè)備,都可以進(jìn)行散熱。
中國(guó)臺(tái)灣的浸沒(méi)式廠商包含技鋼、光寶科、臺(tái)達(dá)電、緯穎等。然而浸泡的液體(介電液)帶來(lái)的環(huán)保問(wèn)題、服務(wù)器內(nèi)的電子設(shè)備是否可以長(zhǎng)時(shí)間浸泡、后續(xù)服務(wù)器的保養(yǎng)該由誰(shuí)來(lái)維護(hù)等,浸沒(méi)式還有很大一段路需要克服。
數(shù)據(jù)中心在導(dǎo)入浸沒(méi)式方案時(shí),也必須考量到工廠樓層耐重程度,以及電路和水路的機(jī)房基礎(chǔ)設(shè)施等。也就是說(shuō),若想要導(dǎo)入浸沒(méi)式方案,就必須重新規(guī)劃廠房,所耗費(fèi)的成本非常龐大。
*聲明:本文系原作者創(chuàng)作。文章內(nèi)容系其個(gè)人觀點(diǎn),我方轉(zhuǎn)載僅為分享與討論,不代表我方贊成或認(rèn)同,如有異議,請(qǐng)聯(lián)系后臺(tái)。
關(guān)于我們
北京漢深流體技術(shù)有限公司是丹佛斯中國(guó)數(shù)據(jù)中心簽約代理商。產(chǎn)品包括FD83全流量自鎖球閥接頭,UQD系列液冷快速接頭、EHW194 EPDM液冷軟管、電磁閥、壓力和溫度傳感器及Manifold的生產(chǎn)和集成服務(wù)。在國(guó)家數(shù)字經(jīng)濟(jì)、東數(shù)西算、雙碳、新基建戰(zhàn)略的交匯點(diǎn),公司聚焦組建高素質(zhì)、經(jīng)驗(yàn)豐富的液冷工程師團(tuán)隊(duì),為客戶提供卓越的工程設(shè)計(jì)和強(qiáng)大的客戶服務(wù)。
公司產(chǎn)品涵蓋:丹佛斯液冷流體連接器、EPDM軟管、電磁閥、壓力和溫度傳感器及Manifold。
未來(lái)公司發(fā)展規(guī)劃:數(shù)據(jù)中心液冷基礎(chǔ)設(shè)施解決方案廠家,具備冷量分配單元(CDU)、二次側(cè)管路(SFN)和Manifold的專業(yè)研發(fā)設(shè)計(jì)制造能力。
- 針對(duì)機(jī)架式服務(wù)器中Manifold/節(jié)點(diǎn)、CDU/主回路等應(yīng)用場(chǎng)景,提供不同口徑及鎖緊方式的手動(dòng)和全自動(dòng)快速連接器。
- 針對(duì)高可用和高密度要求的刀片式機(jī)架,可提供帶浮動(dòng)、自動(dòng)校正不對(duì)中誤差的盲插連接器。以實(shí)現(xiàn)狹小空間的精準(zhǔn)對(duì)接。
- 基于OCP標(biāo)準(zhǔn)全新打造的UQD/UQDB通用快速連接器也將首次亮相, 支持全球范圍內(nèi)的大批量交付。
|