|
|
英偉達(dá)數(shù)據(jù)中心/AI產(chǎn)品迭代路線圖(圖源:英偉達(dá))
AI 和 HPC 處理器正在展現(xiàn)出強(qiáng)大功能。
全球最大的服務(wù)器制造商之一戴爾透露了英偉達(dá)即將推出的人工智能 GPU,代號(hào)為 Blackwell。顯然,這些處理器的功耗高達(dá) 1000 瓦,比上一代處理器的功率增加了 40%,需要戴爾利用其工程獨(dú)創(chuàng)性來(lái)冷卻這些 GPU。戴爾的評(píng)論也可能暗示了 Nvidia 即將推出的計(jì)算 GPU 的一些架構(gòu)特點(diǎn)。
戴爾首席財(cái)務(wù)官 Yvonne Mcgill 表示:“顯然,我們對(duì) H200 所發(fā)生的變化及其性能改進(jìn)感到興奮! “我們對(duì) B100 和 B200 所發(fā)生的事情感到興奮,我們認(rèn)為這實(shí)際上是另一個(gè)區(qū)分工程信心的機(jī)會(huì)。我們?cè)跓岱矫娴奶卣,你真的不需要直接液體冷卻來(lái)達(dá)到能量密度每個(gè) GPU 1,000 瓦。”
由于不了解 Nvidia 關(guān)于其 Blackwell 架構(gòu)的計(jì)劃,我們只能參考散熱的基本經(jīng)驗(yàn)法則,即芯片面積的散熱通常最高約為每平方毫米 1W。
從芯片制造的角度來(lái)看,這就是有趣的地方:Nvidia 的 H100(基于定制 4nm 級(jí)工藝技術(shù)構(gòu)建)已經(jīng)消耗了約 700W,盡管包含 HBM 內(nèi)存的功率,并且芯片芯片為 814^2大,因此每平方毫米的功耗低于 1W。該芯片采用臺(tái)積電定制的性能增強(qiáng)型 4 納米級(jí)工藝技術(shù)構(gòu)建。
Nvidia的下一代GPU很可能會(huì)基于另一種性能增強(qiáng)的工藝技術(shù)構(gòu)建,我們只能猜測(cè)它將采用3nm級(jí)的工藝技術(shù)構(gòu)建。考慮到芯片消耗的功率以及所需的散熱量,有理由認(rèn)為 Nvidia 的 B100 可能是該公司的第一個(gè)雙芯片設(shè)計(jì),從而使其具有更大的表面積來(lái)處理產(chǎn)生的熱量。我們已經(jīng)看到 AMD 和英特爾采用了具有多個(gè)芯片的 GPU 架構(gòu),因此這將符合其他行業(yè)趨勢(shì)。
當(dāng)談到高性能人工智能和高性能計(jì)算應(yīng)用時(shí),我們需要考慮以 FLOPS 為單位衡量的性能,以及實(shí)現(xiàn)這些 FLOPS 和冷卻產(chǎn)生的熱能所需的功耗。對(duì)于軟件開(kāi)發(fā)人員來(lái)說(shuō),重要的是如何有效地使用這些 FLOPS。對(duì)于硬件開(kāi)發(fā)人員來(lái)說(shuō),重要的是如何冷卻產(chǎn)生這些 FLOPS 的處理器。戴爾表示,這就是其技術(shù)有望超越競(jìng)爭(zhēng)對(duì)手的地方,這也是戴爾首席財(cái)務(wù)官談?wù)撚ミ_(dá)下一代 Blackwell GPU 的原因。
“明年的 B200 就會(huì)出現(xiàn)這種情況,”麥吉爾說(shuō),他指的是 Nvidia 的下一代 AI 和 HPC GPU!拔覀冇袡C(jī)會(huì)真正展示我們的工程技術(shù)以及我們的行動(dòng)速度,以及我們作為行業(yè)領(lǐng)導(dǎo)者所做的工作,以利用我們的專業(yè)知識(shí)使液體冷卻大規(guī)模發(fā)揮作用,無(wú)論是在流體化學(xué)和性能方面,還是在我們的互連工作,我們正在做的遙測(cè),我們正在做的電源管理工作,它確實(shí)使我們能夠準(zhǔn)備好將其大規(guī)模推向市場(chǎng),以利用這種令人難以置信的計(jì)算能力或強(qiáng)度或能力,這些能力將存在于市場(chǎng)。”
近日,英偉達(dá)宣布將在即將到來(lái)的GTC2024大會(huì)上發(fā)布全新的Blackwell架構(gòu)的B100 GPU。據(jù)內(nèi)部消息,B100在整體性能上實(shí)現(xiàn)了顯著提升,相較于當(dāng)前的H系列。這款GPU不僅增強(qiáng)了HBM內(nèi)存容量和AI性能,還引入了創(chuàng)新的液冷散熱技術(shù),取代了以往的風(fēng)冷散熱方案。英偉達(dá)CEO黃仁勛認(rèn)為,浸沒(méi)式液冷技術(shù)將成為未來(lái)發(fā)展趨勢(shì),并有望引領(lǐng)整個(gè)散熱市場(chǎng)進(jìn)行革新。因此,從B100開(kāi)始,英偉達(dá)未來(lái)所有產(chǎn)品都將采用液冷散熱技術(shù)。這一重大技術(shù)革新對(duì)AI服務(wù)器市場(chǎng)產(chǎn)生了深遠(yuǎn)影響。 英偉達(dá)的B100液冷項(xiàng)目由代工廠英業(yè)達(dá)負(fù)責(zé)提供。英業(yè)達(dá)方面表示,今年AI服務(wù)器市場(chǎng)仍將以英偉達(dá)產(chǎn)品為主導(dǎo),預(yù)計(jì)B100產(chǎn)品將于第四季度正式量產(chǎn)。此外,隨著高性能應(yīng)用的普及,對(duì)散熱需求極高的芯片逐漸增多,這使得液冷技術(shù)成為服務(wù)器溫控產(chǎn)業(yè)未來(lái)發(fā)展的重要方向。
華爾街分析師Hans Mosesmann認(rèn)為,液冷技術(shù)是克服運(yùn)算挑戰(zhàn)的關(guān)鍵,有助于為超大規(guī)模云端服務(wù)鋪平道路。他將超微電腦的目標(biāo)價(jià)從700美元上調(diào)至1300美元,并維持買(mǎi)入評(píng)級(jí)。這是因?yàn)槌㈦娔X采用了液冷服務(wù)器技術(shù),能有效為高速運(yùn)轉(zhuǎn)的AI計(jì)算機(jī)降溫。由此可見(jiàn),液冷技術(shù)在AI服務(wù)器領(lǐng)域的應(yīng)用前景廣闊,或?qū)⒊蔀槲磥?lái)市場(chǎng)競(jìng)爭(zhēng)的一大亮點(diǎn)。
總之,英偉達(dá)全新B100 GPU的推出,標(biāo)志著液冷散熱技術(shù)在AI服務(wù)器領(lǐng)域的廣泛應(yīng)用。隨著各大廠商紛紛跟進(jìn),液冷技術(shù)有望引領(lǐng)散熱市場(chǎng)革新,并為AI服務(wù)器產(chǎn)業(yè)帶來(lái)更為廣闊的發(fā)展空間。在這場(chǎng)技術(shù)變革中,率先采用液冷技術(shù)的廠商將占據(jù)市場(chǎng)優(yōu)勢(shì),進(jìn)一步推動(dòng)AI服務(wù)器市場(chǎng)的發(fā)展。
免責(zé)聲明:文章來(lái)源網(wǎng)絡(luò)及其他媒體平臺(tái),轉(zhuǎn)載目的在于傳遞更多信息,僅代表作者個(gè)人觀點(diǎn),不確保文章的準(zhǔn)確性,如有侵犯版權(quán)請(qǐng)告知,我們將在24小時(shí)內(nèi)刪除!
|
|