NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD

NVIDIA DGX SuperPOD je vysoce výkonný AI superpočítač kombinující více DGX serverů, optimalizovaný pro škálovatelné trénování AI modelů a akcelerované výpočty s vysokorychlostní sítí a jednoduchou správou.

Zároveň je prvním kompletním řešením pro AI Factory a stará se o vše od serverů, síťové infrastruktury až po software. Díky tomu, a s pomocí nástrojů AI Enterprise od NVIDIA, lze vyvíjet AI aplikace mnohem rychleji.

Exascale

Až 1 exaFLOP / RU

Modulární

Škálovatelná architektura

AI Factory

Řešení pro AI na klíč

LC/AIR

Možnost chlazení vodou

Služby

Plná podpora NVIDIA

Design

Referenční architektura

* parametry se můžou lišit dle konfigurace.

Hardware Software NVIDIA NGC Podpora

Specifikace systému

Superpočítač NVIDIA DGX SuperPOD je postavený na výpočetních serverech NVIDIA DGX v konfiguracích NVIDIA DGX H200, DGX B200, GB200 NVL72 a DGX B300* (architektura Blackwell Ultra).

Zároveň veškeré systémy NVIDIA DGX SuperPOD jsou dodávané tzv. „na klíč“ – na vás tedy zůstane jen samotné používání systému. Kompletní instalace, propojení a nastavení systému je zařízeno specializovanými techniky. Správa celého výpočetního clusteru je řízena za pomoci intuitivního softwaru NVIDIA Base Command Management, díky kterému je všechna správa a monitoring sjednocen do jediného místa.

Zde jsou parametry jednotlivých konfigurací, na kterých je pak celý superpočítač postaven. Jelikož je celý systém modulární a škálovatelný, je možné jej nakonfigurovat s různým počtem serverů DGX, aby vyhovoval přesně vaším požadavkům a způsobu využití.

*Je pouze oznámena

Parametr	NVIDIA DGX H200 1128 GB	NVIDIA DGX B200 1440 GB	NVIDIA DGX GB200 NVL72
GPUs	8× NVIDIA H200 SXM5 141 GB	8× NVIDIA B200 SXM5 180 GB	72× NVIDIA GB200 186 GB*
GPU memory	1128 GB	1440 GB	36× 372 GB *
CPU	Dual Intel Xeon Platinum 8480C (112 jader)	Dual Intel Xeon Platinum 8570 2.1 GHz (112 jader)	36× NVIDIA Grace CPU (2592 jader)
Výkon (FP8 tensor operace)	32 petaFLOPS	72 petaFLOPS	720 petaFLOPS
# CUDA jader	135 168	TBA	TBA
# Tensor jader	4 224	TBA	TBA
Multi-instantce GPU	56 instancí	56 instancí	504 instancí **
RAM	2 TB	až 4TB DDR5	až 17 TB LPDDR5X
HDD	OS: 2× 1.92 TB NVMe data: 30 TB (8× 3.84 TB) NVMe	OS: 2x 1.9TB NVMe M.2 Storage: 8x 3.84TB NVMe U.2	N/A
Network	8x single-port ConnectX-7 VPI 400 Gb/s InfiniBand/ 200Gb/s Ethernet 2x dual-port ConnectX-7 VPI 400 Gb/s InfiniBand/ 200Gb/s Ethernet	4x OSFP pro 8x single-port NVIDIA ConnectX-7 VPI (400Gb/s InfiniBand/Ethernet) 2x dual-port QSFP112 NVIDIA BlueField-3 DPU (400Gb/s InfiniBand/Ethernet)	4x OSFP pro 8x single-port NVIDIA ConnectX-7 VPI (400Gb/s InfiniBand/Ethernet) 2x dual-port QSFP112 NVIDIA BlueField-3 DPU (400Gb/s InfiniBand/Ethernet) 3.6 TBps NVLink
Max. spotřeba	~10,2 kW max	~ 14.3 kW max	~ 120 kW max ***
Provedení	8U rack	10U rack	1RU
Technická specifikace	Datasheet	Datasheet	Datasheet

* Maximální konfigurace GPU paměti dle NVIDIA
** Teoretická kalkulace na základě schopností a počtu grafických čipů B200
*** Odhadovaná spotřeba na základě specifikace 1,2 kW / GB200 modul

Síťová infrastruktura

Systémy DGX SuperPOD mají speciálně navrženou síťovou infrastrukturu postavenou na síťových prvcích NVIDIA Quantum, která zajišťuje vysokorychlostní propoj mezi všemi výpočetními nody. Celý systém je stavěný na škálovatelných jednotkách (SU), které skvěle navazují na již existující infrastrukturu instalovaného SuperPOD systému. Níže je přiložena tabulka se schématem škálování SU, GPU nodů a InfiniBand switchů.

			InfiniBand Switch Counts			Cable Counts
SU Count	Node Count	GPU Count	Leaf	Spine	Core	Node-Leaf	Leaf-Spine	Spine-Core
4	128	1024	32	16	-	1024	1024	1024
8	256	2048	64	32	-	2048	2048	2048
16	512	4096	128	128	64	4096	4096	4096
32	1024	8192	256	256	128	8192	8192	8192
56	2048	16384	512	512	256	16384	16384	16384

Kompletní dokumentace architektury

NVIDIA
DGX H200

Pátá generace rackového superpočítače pro strojové učení a výpočty umělé inteligence, který je osazený osmi akcelerátory architektury Hopper – Nvidia H200 141GB.

Více informací

NVIDIA
DGX B200

Nejnovější šestá generace nevýkonnějšího superpočítače výhradně určená pro trénování umělé inteligence je osazena osmi akcelerátory architektury Blackwell – NVIDIA B200.

Více informací

NVIDIA
GB200 NVL72

Výkoný a efektivní výpočetní sytém DGX GB200 NVL72, který je perfektním řešením pro náročné výpočty a trénování AI. Systém je tvořen 36 compute trays s 2x B200 a 1x NVIDIA Grace CPU.

Více informací

Storage

K celé AI Factory je samozřejmě potřeba i výkonné úložiště. Proto se systémy DGX SuperPOD párují se storage řešením od jednoho z předních poskytovatelů (VAST, DDN nebo Pure), a díky tomu vzniká kompletní a velmi dobře optimalizovaný systém pro trénování a inferenci AI nebo HPC výpočty, ke kterým budete mít vždy dostatek úložiště.

VAST

VAST nabízí unifikované úložiště s NVMe a QLC flash, optimalizované pro AI, HPC a velká data. Využívá pokročilé komprese a deduplikace.

Více informací

DDN

DDN se specializuje na vysoce výkonné storage pro HPC, AI a enterprise. Nabízí škálovatelná řešení s podporou paralelního přístupu k datům.

Více informací

PURE

Pure poskytuje all-flash úložiště s důrazem na jednoduchost, výkon a nízkou latenci. Je oblíbený pro enterprise prostředí a cloudové služby.

Více informací

DGX SuperPOD – AI Factory

NVIDIA DGX SuperPOD nabízí komplexní AI datové centrum jako hotové řešení pro firmy budující „AI Factory“, které bezproblémově poskytuje špičkový výpočetní výkon, softwarové nástroje, odborné znalosti, 24/7 podporu a neustálé inovace. S možností výběru výpočetních variant umožňuje každému podniku integrovat AI do svého byznysu a vytvářet inovativní aplikace, aniž by se musel potýkat s komplexitou platformy.

Software

K superpočítači NVIDIA DGX SuperPOD je samozřejmě připravený i rozsáhlý softwarový balíček, který se stará o vše od správy až po automatizaci a usnadnění nasazování AI či HPC aplikací. Vše je sjednoceno pod platformu NVIDIA Base Command, což značně zjednodušuje správu a řízení celého systému a umožňuje vše provádět z jediného místa. Pokud vezmeme v potaz to, že se celý systém SuperPOD může skládat až ze 32 serverů NVIDIA DGX, tak tento způsob správy dokáže ušetřit spoustu času.

Zároveň vám software NVIDIA AI Enterprise pomůže s nasazením a trénováním AI modelů díky automatizaci časově náročných úloh od přípravy vašich trénovacích dat až po inferenci hotového AI modelu.Můžete si tak urychlit cestu za AI pomocí NVIDIA NIM mikroservisám a NVIDIA NeMo nástrojů pro automatizované procesování dat.

NVIDIA AI Enterprise

NVIDIA AI Enterprise je cloudově nativní softwarová platforma, která usnadňuje vývoj a nasazení produkčních generativních AI aplikací. Poskytuje sadu nástrojů, jako například mikroservisu NVIDIA NIM™ pro efektivní inferenci a NVIDIA NeMo™ pro zpracování dat a přizpůsobení modelů.

Platforma podporuje nasazení v různých prostředích—od cloudu přes datová centra až po edge zařízení a pracovní stanice. NVIDIA AI Enterprise zajišťuje bezpečnost, stabilitu a technickou podporu na podnikové úrovni, což usnadňuje přechod od prototypu k produkci.

Více o AI Enterprise

NVIDIA Base Command Manager

NVIDIA Base Command Manager je komplexní softwarové řešení pro správu AI a HPC clusterů. Umožňuje rychlé nasazení a end-to-end správu různorodých clusterů v datových centrech, na okraji sítě i v multi a hybridních cloudových prostředích. Automatizuje provisioning a administraci clusterů od několika uzlů až po stovky tisíc, podporuje GPU akcelerované systémy a umožňuje orchestraci s Kubernetes. Integruje se s platformami NVIDIA, včetně systémů DGX, BlueField DPU a switchů NVIDIA Spectrum, a je součástí softwarového balíku NVIDIA AI Enterprise. Poskytuje nástroje pro monitorování infrastruktury, správu pracovních úloh a zajišťuje bezpečnost a stabilitu na Enterprise úrovni.

Více o Base Command

NVIDIA GPU Cloud (NGC)

NVIDIA GPU Cloud (NGC) představuje katalog Docker obrazů nejpoužívanějších prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění na DGX systému a stažení a spuštění v Docker kontejneru. Jednotlivá vývojová prostředí — verze všech obsažených knihoven a frameworků, nastavení parametrů prostředí — jsou aktualizovaná a optimalizovaná NVIDIÍ pro nasazení na DGX systémech.

NVIDIA NGC Katalog

Hlavní benefity NVIDIA podpory

Silnou stránkou nabízeného řešení NVIDIA je podpora celého systému. Hardwarová podpora (v případě selhání některé z komponent) je samozřejmostí. Zásadní je softwarová podpora pro celé prostředí pro případ, že něco nefunguje tak, jak má. Zákazník má k dispozici stovky vývojářů připravených pomoci. Podpora je součástí nákupu systémů NVIDIA DGX. Je k dispozici na 3 – 5 let a po skončení této doby je možné ji dále prodloužit.

Oprava technikem u zákazníka

Získáte profesionální servis přímo u vás. Technik dorazí na místo, provede diagnostiku a provede opravu rychle a efektivně.

Vzdálená diagnostika

Rychlá pomoc na dálku. Naši specialisté se připojí k vašemu zařízení a provedou diagnostiku i opravu bez nutnosti osobní návštěvy.

Prodloužená softwarová podpora

Zajišťuje delší přístup k aktualizacím, opravám chyb a vylepšením softwaru. Vaše zařízení zůstane aktuální a chráněné i po záruce.

Nejnovější aktualizace a upgrady

Získejte přístup k nejnovějším verzím softwaru a firmwaru, které zvyšují výkon, bezpečnost a přidávají nové funkce zařízení.

Přímý kontakt na NVIDIA podporu

Bez zdržení komunikujte s týmem NVIDIA odborníků. Rychlé odpovědi, technická pomoc i poradenství přesně podle vašich potřeb.

Privátní NCC úložiště a software

Bezpečné a privátní úložiště pro váš software a data. Rychlý přístup ke stažení nástrojů a dokumentace z prostředí NVIDIA.

Instalace

Celý systém DGX SuperPOD se dodává tzv. „na klíč“ – Vám jako zákazníkovi bude předaný kompletně funkční a zapojený systém připravený na používání. Celá instalace je zařízena speciálně proškolenými techniky za použití specializovaného vybavení na instalaci DGX systémů. Dále má samozřejmě DGX SuperPOD plnou NVIDIA podporu, včetně dedikovaného asistenta NVIDIA k vašemu systému.

NVIDIA cenové akce

NVIDIA nabízí na DGX systémy speciální cenové akce a programy pro oblasti vzdělávání (EDU) nebo start-up společností. Díky mezinárodní spolupráci mezi NVIDIA a IBM Global Financing je na modely DGX k dispozici zvýhodněné financování formou operativního leasingu.

Získat cenovou nabídku

Společnost M Computers
zastupuje společnost NVIDIA
na českém trhu v Enterprise
oblasti výpočetních
akcelerátorů a AI systémů.

Jako první společnost ve střední a východní Evropě jsme získali nějvýšší status ELITE PARTNER a zároveň i ocenění NVIDIA AI Innovator, NVIDIA AI Champion a NVIDIA AI Expert.

NVIDIA Deep Learning Institute

Deep Learning Institute (DLI) nabízí on-line i hands-on školení pro vývojáře, datové analytiky nebo vědecké pracovníky, kteří řeší náročné úlohy umělé inteligence nebo akcelerovaných výpočtů.

Více informací

Testování

Zaujal vás systém NVIDIA DGX SuperPOD a rádi byste jej nasadili u vás?
Neváhejte nás kontaktovat přes kontaktní formulář, nebo kontaktujte napřímo našeho specialistu na produkty NVIDIA.

Kamila Jeřábková

NVIDIA, AI řešení

+420 734 161 516

kamila.jerabkova@mcomputers.cz