Supermicro推出支援NVIDIA Blackwell和HGX H100|H200的機櫃級隨插即用液冷AI SuperCluster | 科技新聞 | 20240617 | match生活網

科技新聞

Supermicro推出支援NVIDIA Blackwell和HGX H100|H200的機櫃級隨插即用液冷AI SuperCluster
Zeek玩家誌     2024/06/17 21:30

Supermicro美超微為AI、雲端、儲存和5G/邊緣領域的全方位IT解決方案製造商,推出可立即部署式液冷型AI資料中心。此資料中心專為雲端原生解決方案而設計,透過SuperCluster加速各界企業對生成式AI的運用,並針對NVIDIA AI Enterprise軟體平台最佳化,適用於生成式AI的開發與部署。透過Supermicro的4U液冷技術,NVIDIA近期推出的Blackwell GPU能在單一GPU上充分發揮20 PetaFLOPS的AI效能,且與較早的GPU相比,能提供4倍的AI訓練效能與30倍的推論效能,並節省額外成本。Supermicro近期推出基於NVIDIA Blackwell架構的完善產品系列,支援新型NVIDIA HGXTM B100、B200和GB200 Grace Blackwell Superchip。

Supermicro總裁暨執行長梁見後表示:「Supermicro在打造與部署具有機櫃級液冷技術的AI解決方案方面持續領先業界。資料中心的液冷配置設計可幾近免費,並透過能持續降低用電量的優勢為客戶提供額外價值。我們的解決方案針對NVIDIA AI Enterprise軟體最佳化,滿足各行各業的客戶需求,並提供世界規模級效率的全球製造產能。因此我們得以縮短交付時間,更快提供搭配NVIDIA HGX H100和H200,以及即將推出的B100、B200和GB200解決方案的可立即使用型液冷或氣冷運算叢集。從液冷板到CDU乃至冷卻塔,我們的機櫃級全方位液冷解決方案最大可以降低資料中心40%的持續用電量。」


### 與NVIDIA的密切合作

Supermicro和NVIDIA密切合作,確保從AI應用的初步測試到實際運行的過程順暢無阻。NVIDIA創辦人暨執行長黃仁勳表示:「生成式AI正在推動整個運算堆疊的重置,新的資料中心將會透過GPU進行運算加速,並針對AI最佳化。Supermicro設計了頂尖的NVIDIA加速運算和網路解決方案,使價值數兆美元的全球資料中心能夠針對AI時代最佳化。」

隨著LLM大型語言模型的快速發展以及Meta的Llama-3和Mistral的Mixtral 8x22B等開源模型不斷推出,企業更容易取得並使用當今最先進的AI模型。簡化AI基礎設施並以最具成本效益的方式提供存取能力,對於支援目前的快速AI變革至關重要。Supermicro雲端原生AI SuperCluster使即時存取的雲端便利性和可攜性之間得以連結,並透過NVIDIA AI Enterprise讓任何規模的AI專案,從評估測試階段順暢地進行到實際作業階段。這提供了能在任何地方運行並安全管理資料的靈活性,包括自架系統或地端大型資料中心。

隨著各界企業快速進行生成式AI的實驗性使用,Supermicro與NVIDIA密切合作,確保完善且靈活地從AI應用的實驗和評估試行推動至作業部署和大規模資料中心AI。此順暢流程是藉由NVIDIA AI Enterprise軟體平台的機櫃、叢集級最佳化而實現,能使從初步探索至可擴展AI落地的過程更流暢無阻。


託管服務涉及基礎架構的選擇、資料共享和生成式AI策略控管。NVIDIA NIM微服務作為NVIDIA AI Enterprise的一部分,可在無缺陷情況下提供託管生成式AI和開源部署優勢。其多功能推論運行環境透過微服務,可加速從開源模型到NVIDIA基礎模型等各類型生成式AI的部署。此外,NVIDIA NeMoTM可實現透過資料庋用、進階自訂和檢索增強生成(Retrieval-Augmented Generation,RAG)的客製模型開發,以實現企業級解決方案。與搭配NVIDIA AI Enterprise的Supermicro SuperCluster整合後,NVIDIA NIM能為可擴展、加速型生成式AI作業的部署提供最快途徑。

Supermicro目前的生成式AI SuperCluster產品包括:

液冷型Supermicro NVIDIA HGX H100 / H200 SuperCluster,具有256個H100 / H200 GPU,為5個機櫃規模的可擴展運算單元(包括1個專用網路機櫃)氣冷型Supermicro NVIDIA HGX H100 / H200 SuperCluster,具有256個HGX H100 / H200 GPU,為9個機櫃規模的可擴展運算單元(包括1個專用網路機櫃)Supermicro NVIDIA MGX GH200 SuperCluster,具有256個GH200 GraceTM Hopper Superchip,為9個機櫃規模的可擴展運算單元(包括1個專用網路機櫃)
Supermicro的SuperCluster支援NVIDIA AI Enterprise,其中包括NVIDIA NIM微服務和NVIDIA NeMo平台,能實現端對端生成式AI客製,並針對NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s網速的新型NVIDIA Spectrum-X乙太網路平台最佳化,可擴展到具有數萬個GPU的大型運算叢集。


Supermicro即將推出的SuperCluster包括:

Supermicro NVIDIA HGX B200 SuperCluster,液冷型Supermicro NVIDIA HGX B100/B200 SuperCluster,氣冷型Supermicro NVIDIA GB200 NVL72或NVL36 SuperCluster,液冷型
這些新的AI超級集群產品,不僅提供了更高效的運算能力和更低的運行成本,還簡化了AI部署過程,幫助企業更快地從生成式AI技術中獲益。Supermicro與NVIDIA的合作,使這些創新技術能夠迅速應用於實際業務中,推動AI領域的快速發展。

延伸閱讀:
AI時代必備AI筆電 ASUS Vivobook S 14 OLED 開箱評測
LINE Pay灑紅包送點數!指定飯店與美食抽999點、618電商滿額贈300點
Apple推出M4晶片首度搭載於全新iPad Pro
NVIDIA AI與Omniverse助力推動機器人工廠並加速進行工業數位化NVIDIA

這篇文章 Supermicro推出支援NVIDIA Blackwell和HGX H100|H200的機櫃級隨插即用液冷AI SuperCluster 原創於 ZEEK玩家誌。