Supermicro的SuperCluster配備了NVIDIA HGXTM B200 8-GPU、NVIDIA GB200、NVL4和NVL72系統(tǒng),提供升級的AI計(jì)算密度
加州圣何塞和亞特蘭大2024年11月22日 /美通社/ -- Supermicro, Inc. (NASDAQ:SMCI)為AI、云端、存儲(chǔ)和5G/邊緣領(lǐng)域的全方位IT解決方案提供企業(yè),宣布推出高性能的SuperCluster。這一端對端AI數(shù)據(jù)中心解決方案采用NVIDIA Blackwell平臺(tái),專為兆級參數(shù)規(guī)模的生成式AI時(shí)代所設(shè)計(jì)。全新SuperCluster將可大幅增加液冷機(jī)架中的NVIDIA HGX B200 8-GPU系統(tǒng)數(shù)量,與Supermicro目前領(lǐng)先業(yè)界的搭載NVIDIA HGX H100和H200的液冷型SuperCluster相比,GPU計(jì)算密度得到大幅提升。此外,Supermicro正在擴(kuò)大其NVIDIA Hopper系統(tǒng)產(chǎn)品組合,以應(yīng)對加速型HPC應(yīng)用和主流企業(yè)級AI技術(shù)的快速普及。
Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)表示:"Supermicro 擁有必要的專業(yè)技術(shù)、交付速度和產(chǎn)能,有能力部署包含100,000個(gè)GPU的全球最大液冷AI 數(shù)據(jù)中心項(xiàng)目,而通過Supermicro與NVIDIA的協(xié)作,該項(xiàng)目最近剛完成部署。這些Supermicro SuperCluster能通過高效直接液冷(DLC)技術(shù)降低電力需求。同時(shí),我們現(xiàn)在推出了采用NVIDIA Blackwell平臺(tái)的解決方案。通過建構(gòu)組件(Building Block)技術(shù),能快速設(shè)計(jì)搭載NVIDIA HGX B200 8-GPU的服務(wù)器,并自由搭配液冷或氣冷散熱配置。我們的SuperCluster提供空前的密度、性能和效率,為未來更密集的AI計(jì)算解決方案奠定基礎(chǔ)。Supermicro的計(jì)算集群搭配直接液冷技術(shù),可幫助整個(gè)數(shù)據(jù)中心實(shí)現(xiàn)更高的性能和更低的功耗,并降低運(yùn)營成本。"
欲了解更多信息,請?jiān)L問:www.supermicro.com/hpc。
經(jīng)驗(yàn)證的大規(guī)模AI性能:Supermicro NVIDIA HGX B200系統(tǒng)
升級后的SuperCluster可擴(kuò)充單元采用機(jī)架級設(shè)計(jì),具有創(chuàng)新垂直冷卻液分配歧管(CDM),可使單一機(jī)架內(nèi)的計(jì)算節(jié)點(diǎn)數(shù)量增加。新開發(fā)的高效散熱冷板和先進(jìn)的軟管設(shè)計(jì)可進(jìn)一步改善液冷系統(tǒng)效率。適合大型部署的新型In-Row式冷卻液分配裝置(CDU)亦可被納入計(jì)算集群的散熱配置內(nèi)。傳統(tǒng)氣冷數(shù)據(jù)中心也能運(yùn)用搭配新型氣冷系統(tǒng)機(jī)箱的全新NVIDIA HGX B200 8-GPU系統(tǒng)。
全新Supermicro NVIDIA HGX B200 8-GPU系統(tǒng)相較于前一代,提供了多項(xiàng)升級。這些新系統(tǒng)包含對散熱和電源方案的優(yōu)化,并支持雙500W Intel® Xeon® 6(配備DDR5 MRDIMM,傳輸速度達(dá)8800 MT/s)或AMD EPYCTM 9005系列處理器。而全新氣冷式10U機(jī)型Supermicro NVIDIA HGX B200系統(tǒng)則采用經(jīng)重新設(shè)計(jì)的機(jī)箱,具有更佳的散熱空間以支持8 個(gè)1000W TDP Blackwell GPU。這些系統(tǒng)在GPU搭配NIP的架構(gòu)上采用1:1比例設(shè)計(jì),并支持NVIDIA BlueField®-3 SuperNIC或NVIDIA ConnectX®-7 NIC,可在高性能計(jì)算結(jié)構(gòu)內(nèi)進(jìn)行擴(kuò)充。此外,每個(gè)系統(tǒng)所配備的兩個(gè)NVIDIA BlueField-3數(shù)據(jù)處理器(DPU),能使附加型高性能AI存儲(chǔ)裝置之間的數(shù)據(jù)傳輸處理效率得到提升。
采用NVIDIA GB200 Grace Blackwell超級芯片的Supermicro解決方案
Supermicro亦提供搭配所有NVIDIA GB200 Grace Blackwell超級芯片的解決方案,包括最新發(fā)布的NVIDIA GB200 NVL4超級芯片和NVIDIA GB200 NVL72單機(jī)架百萬兆級計(jì)算機(jī)。
Supermicro的NVIDIA MGX系列設(shè)計(jì)將支持NVIDIA GB200 Grace Blackwell NVL4 超級芯片。這款超級芯片啟動(dòng)了融合式高性能計(jì)算與AI的未來,并通過NVLink-C2C技術(shù),以及四個(gè)由NVIDIA NVLink? 連接的Blackwell GPU與兩個(gè)NVIDIA Grace? CPU,提供了革命性的性能。這些超級芯片與Supermicro的液冷型NVIDIA MGX模塊化系統(tǒng)兼容,且相較于上一代產(chǎn)品,能為科學(xué)計(jì)算、圖神經(jīng)網(wǎng)絡(luò)(GNN)訓(xùn)練和推理應(yīng)用提供至高兩倍的性能。
搭配Supermicro端對端液冷解決方案的NVIDIA GB200 NVL72 SuperCluster能在具有SuperCloud Composer(SCC)軟件的單個(gè)機(jī)架中組成一個(gè)百萬兆級超級計(jì)算機(jī),為液冷數(shù)據(jù)中心提供全面的監(jiān)控與管理能力。72個(gè)NVIDIA Blackwell GPU和36個(gè)NVIDIA Grace CPU皆通過第五代NVIDIA NVLink和NVLink Switch連接,能有效地作為單個(gè)強(qiáng)大GPU運(yùn)行,并擁有高度容量的HBM3e內(nèi)存集區(qū),以實(shí)現(xiàn)低延遲的130TB/s總GPU通訊帶寬。
搭載NVIDIA H200 NVL的加速計(jì)算系統(tǒng)
Supermicro的 5U PCIe加速計(jì)算系統(tǒng)現(xiàn)可搭載NVIDIA H200 NVL,適用于需要彈性配置的低功耗、氣冷型企業(yè)級機(jī)架設(shè)計(jì),并能為許多AI和高性能計(jì)算工作負(fù)載進(jìn)行加速(無論機(jī)體尺寸大小)。NVIDIA H200 NVL能通過NVIDIA NVLink,將最多四個(gè)GPU相連,并搭配1.5倍內(nèi)存容量,以及通過HBM3e得到提高的1.2倍帶寬,可實(shí)現(xiàn)數(shù)小時(shí)內(nèi)的LLM快速微調(diào),同時(shí)也提供比前一代快1.7倍的LLM 推理性能速度。NVIDIA H200 NVL亦包含NVIDIA AI Enterprise的五年服務(wù),而NVIDIA AI Enterprise是一個(gè)用于開發(fā)與部署生產(chǎn)型AI的云端原生軟件平臺(tái)。
Supermicro 的X14和H14 5U PCIe加速計(jì)算系統(tǒng)通過NVLink技術(shù)支持多達(dá)兩個(gè)4路NVIDIA H200 NVL系統(tǒng),在單個(gè)系統(tǒng)內(nèi)可搭載8個(gè)GPU,提供最高900GB/s的GPU互連傳輸速度,而每4-GPU NVLink域的組合集區(qū)具有 564GB 的 HBM3e 內(nèi)存。全新PCIe 加速計(jì)算系統(tǒng)支持最高10個(gè)PCIe GPU,現(xiàn)在也可搭載最新Intel Xeon 6或AMD EPYC 9005系列處理器,能為高性能計(jì)算和AI應(yīng)用提供靈活且多功能的選項(xiàng)。
Supermicro亮相2024年超級計(jì)算大會(huì)
Supermicro在超級計(jì)算大會(huì)上展示了完整的AI和高性能計(jì)算基礎(chǔ)架構(gòu)解決方案組合,包括用于AI SuperCluster的液冷GPU服務(wù)器。通過展位的演講議程,您可以了解客戶、Supermicro專家及我們的技術(shù)合作伙伴所介紹的最新突破性計(jì)算技術(shù)。
歡迎蒞臨Supermicro在2024年超級計(jì)算大會(huì)的展位,位于 B廳2531號(hào)。
關(guān)于Super Micro Computer, Inc.
Supermicro(納斯達(dá)克股票代碼:SMCI)是應(yīng)用優(yōu)化全方位IT解決方案的全球領(lǐng)導(dǎo)企業(yè)。Supermicro的成立據(jù)點(diǎn)及營運(yùn)中心位于美國加州圣何塞,致力為企業(yè)、云端、AI和5G電信/邊緣IT基礎(chǔ)架構(gòu)提供領(lǐng)先市場的創(chuàng)新技術(shù)。我們是全方位IT解決方案制造商,提供服務(wù)器、AI、存儲(chǔ)、物聯(lián)網(wǎng)、交換器系統(tǒng)、軟件及支持服務(wù)。Supermicro的主板、電源和機(jī)殼設(shè)計(jì)專業(yè)知識(shí)進(jìn)一步優(yōu)化我們的開發(fā)與生產(chǎn),為我們的全球客戶實(shí)現(xiàn)從云端到邊緣的下一代創(chuàng)新。我們的產(chǎn)品皆由企業(yè)內(nèi)部團(tuán)隊(duì)設(shè)計(jì)及制造(在美國、亞洲及荷蘭),經(jīng)由產(chǎn)品設(shè)計(jì)優(yōu)化降低總體擁有成本(TCO),并通過綠色計(jì)算技術(shù)減少環(huán)境沖擊,且在全球化營運(yùn)下達(dá)到極佳的制造規(guī)模與效率。屢獲殊榮的Server Building Block Solutions®產(chǎn)品組合使客戶能從極多元系統(tǒng)產(chǎn)品線內(nèi)選擇合適的機(jī)型,進(jìn)而將工作負(fù)載與應(yīng)用達(dá)到最佳性能。多元系統(tǒng)產(chǎn)品線由高度彈性、可重復(fù)使用的建構(gòu)組件打造而成,而這些建構(gòu)組件支持各種硬件外形規(guī)格、處理器、內(nèi)存、GPU、存儲(chǔ)、網(wǎng)絡(luò)、功耗和散熱解決方案(空調(diào)、自然氣冷或液冷)。
Supermicro、Server Building Block Solutions和We Keep IT Green皆為Super Micro Computer, Inc. 的商標(biāo)和/或注冊商標(biāo)。
所有其他品牌、名稱和商標(biāo)皆為其各自所有者之財(cái)產(chǎn)。