Supermicro基于NVIDIA GH200超級芯片的服務(wù)器平臺借助緊密集成的CPU和GPU提高了AI工作負載的性能,并納入了最新的DPU網(wǎng)絡(luò)和通信技術(shù)
美國加利福尼亞州圣何塞2023年10月26日 /美通社/ -- Supermicro,Inc. (納斯達克股票代碼:SMCI)為AI、云端、存儲和 5G/邊緣領(lǐng)域的全方位IT解決方案制造商,近日宣布推出業(yè)內(nèi)目前最廣泛的新型GPU系統(tǒng)組合之一。這些產(chǎn)品均基于英偉達(NVIDIA)參考架構(gòu),搭載了最新的NVIDIA GH200 Grace Hopper和NVIDIA Grace CPU超級芯片。這種新的模塊化架構(gòu)旨在通過緊湊的1U和2U規(guī)格將AI基礎(chǔ)設(shè)施和加速計算標(biāo)準(zhǔn)化,同時面向當(dāng)前及未來的GPU、DPU和CPU提供高靈活性和擴展度。Supermicro先進的液冷技術(shù)有助于實現(xiàn)非常高密度的硬件配置,例如搭載2顆NVIDIA GH200 Grace Hopper超級芯片的1U 2節(jié)點配置,兩者借助高速互連技術(shù)整合在一起。Supermicro每月可通過全球的工廠交付數(shù)以千計的機架級AI服務(wù)器,并確保即插即用兼容性。
Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)表示:"Supermicro是推動當(dāng)前AI革命的公認領(lǐng)先企業(yè)。我們助力數(shù)據(jù)中心轉(zhuǎn)型,助力將AI用于各種工作負載內(nèi)。對于我們來說,為快速發(fā)展的AI技術(shù)帶來高度模塊化、可擴展性和通用性的服務(wù)器系統(tǒng)至關(guān)重要。Supermicro基于NVIDIA MGX的解決方案不但證明我們的Building Block伺服器解決方案能使我們迅速將最新系統(tǒng)引進市場,也是產(chǎn)業(yè)中工作負載最佳化性能非常高的解決方案。通過攜手英偉達,我們正助力加速合作企業(yè)產(chǎn)品上市時間,并助其在開發(fā)新AI應(yīng)用程式的同時簡化部署程序,降低對環(huán)境的影響。我們新推出的一系列服務(wù)器採用了針對AI最佳化的最新產(chǎn)業(yè)技術(shù),包括NVIDIA GH200 Grace Hopper超級芯片、BlueField和PCIe 5.0 EDSFF插槽。"
敬請進一步了解Supermicro的NVIDIA MGX系統(tǒng):www.supermicro.com/mgx
誠邀您報名參加Supermicro MGX網(wǎng)絡(luò)研討會:https://www.brighttalk.com/webcast/17278/598459
英偉達超大規(guī)模和高性能計算副總裁Ian Buck表示:"英偉達和Supermicro長期以來一直在合作開發(fā)一些高性能的人工智能系統(tǒng)。NVIDIA MGX模塊化參考設(shè)計與Supermicro的服務(wù)器專業(yè)技術(shù)相結(jié)合,將創(chuàng)造出採用我們Grace和Grace Hopper超級芯片的新一代人工智能系統(tǒng),使全球客戶和行業(yè)受益。"
Supermicro NVIDIA MGX平臺總覽
Supermicro的NVIDIA MGX平臺旨在提供面向未來AI技術(shù)需求的一系列服務(wù)器。這條新產(chǎn)品線可以應(yīng)對AI服務(wù)器獨特的散熱、功耗和硬件挑戰(zhàn)。
新的Supermicro MGX系列服務(wù)器包括:
每個 MGX 平臺都可通過 NVIDIA BlueField®-3 DPU 和/或 NVIDIA ConnectX®-7 互連實現(xiàn)高性能 InfiniBand 或以太網(wǎng)聯(lián)網(wǎng)。
硬件規(guī)格
Supermicro的1U NVIDIA MGX系統(tǒng)最多搭載2顆NVIDIA GH200 Grace Hopper超級芯片,共包含2個NVIDIA H100 GPU和2個NVIDIA Grace CPU。每個系統(tǒng)為CPU配備480GB的LPDDR5X內(nèi)存,而為GPU配備96GB的HBM3內(nèi)存或144GB的HBM3e內(nèi)存。內(nèi)存一致、高帶寬、低時延的NVIDIA-C2C以900GB/s的速度將CPU、GPU和內(nèi)存互連,是PCIe 5.0的7倍。該系統(tǒng)的模塊化架構(gòu)提供多個PCIe 5.0 x16 FHFL插槽,以連接用于云端和數(shù)據(jù)管理的DPU,并可進行額外的GPU、網(wǎng)絡(luò)和存儲硬件擴展。
具備2個NVIDIA GH200 Grace Hopper 超級芯片的1U 2節(jié)點設(shè)計及Supermicro成熟的Direct-to-Chip液冷解決方案可將運營成本降低40%以上,同時提高計算密度,并簡化大型語言模型(LLM)集群和HPC應(yīng)用的機架級部署。
2U機箱設(shè)計的Supermicro NVIDIA MGX平臺支持NVIDIA Grace和x86架構(gòu)的CPU,以及最多4個全尺寸數(shù)據(jù)中心GPU,如NVIDIA H100 PCIe、H100 NVL或L40S,并同時提供3個用于I/O連接的額外PCIe 5.0 x16插槽和8個熱插拔EDSFF硬盤托架。
Supermicro提供NVIDIA網(wǎng)絡(luò)技術(shù),能保護并加速其 MGX 平臺上的人工智能工作運行。這包括NVIDIA BlueField-3 DPU(提供 2x 200Gb/s 連接,用于加速用戶到云和數(shù)據(jù)存儲訪問)和 ConnectX-7 適配器(在 GPU 服務(wù)器之間提供最高 400Gb/s 的 InfiniBand 或以太網(wǎng)連接)的組合。
開發(fā)者可以快速透過這些新系統(tǒng)與NVIDIA軟件服務(wù)來處理各種不同產(chǎn)業(yè)的工作負載。該軟件服務(wù)包含NVIDIA AI Enterprise——一款的企業(yè)級軟件,能夠驅(qū)動NVIDIA AI平臺并簡化生產(chǎn)就緒的生成式人工智能、計算機視覺、語音人工智能等的開發(fā)和部署。此外,NVIDIA HPC 軟件開發(fā)工具包提供了推動科學(xué)計算發(fā)展所需的基本工具。
從智能散熱設(shè)計到組件選擇,Supermicro NVIDIA MGX系統(tǒng)的方方面面均旨在提高效率。NVIDIA Grace超級芯片的CPU具有144個內(nèi)核,每瓦性能高達當(dāng)前行業(yè)標(biāo)準(zhǔn)x86 CPU的2倍。特定的Supermicro NVIDIA MGX系統(tǒng)可在1U機箱中配置2個節(jié)點,能夠搭載具有最高共288個內(nèi)核的2組Grace CPU超級芯片,可以在超大規(guī)模和邊緣數(shù)據(jù)中心提供突破性的計算密度和能效。
欲了解詳情,請登錄Supermicro NVIDIA MGX系統(tǒng)網(wǎng)站:www.supermicro.com/mgx
關(guān)于Super Micro Computer, Inc.?
Supermicro(納斯達克股票代碼:SMCI)為應(yīng)用最佳化全方位 IT 解決方案的全球領(lǐng)導(dǎo)者。Supermicro 的成立據(jù)點及營運中心位于美國加州圣何塞,致力為企業(yè)、云端、AI和 5G 電信/邊緣 IT 基礎(chǔ)架構(gòu)提供領(lǐng)先市場的創(chuàng)新技術(shù)。我們是全方位 IT 解決方案制造商,提供服務(wù)器、AI、存儲、物聯(lián)網(wǎng)、交換器系統(tǒng)、軟件及支援服務(wù)。Supermicro的主板、電源和機箱設(shè)計專業(yè)進一步動了我們的發(fā)展與產(chǎn)品生產(chǎn),為全球客戶實現(xiàn)了從云端到邊緣的下一代創(chuàng)新。我們的產(chǎn)品皆由企業(yè)內(nèi)部團隊設(shè)計及制造(在美國、亞洲及荷蘭),透過全球化營運提供規(guī)模生產(chǎn)及展現(xiàn)絕佳效率,透過最佳化設(shè)計,不但降低總體擁有成本(TCO),還能透過先進的綠色運算技術(shù)來減少對環(huán)境的沖擊。屢獲殊榮的 Server Building Block Solutions® 產(chǎn)品組合,讓客戶可以自由選擇這些具高度彈性、可重復(fù)使用且極為多元的建構(gòu)式組合系統(tǒng),我們支持各種外形尺寸、處理器、內(nèi)存、GPU、存儲、網(wǎng)絡(luò)、電源和散熱解決方案(空調(diào)、自然風(fēng)冷或液冷),因此能為客戶的工作負載與應(yīng)用提供最佳的效能。?
Supermicro、Server Building Block Solutions 和 We Keep IT Green 皆為 Super Micro Computer, Inc. 的商標(biāo)和/或注冊商標(biāo)。
所有其他品牌、名稱和商標(biāo)皆為其各自所有者之財產(chǎn)。