NVIDIA DGX H100

NVIDIA DGX H100 je 4. generace nejpokročilejšího, účelově postaveného systému umělé inteligence a datové analytiky na světě. Představuje revoluci v oblasti podnikových datových center spočívající v infrastruktuře sjednocující aplikace AI a datové analytiky.

8 GPU

H100 80GB SXM5

135 168

GPU jader

640 GB

GPU paměti

2 TB

RAM paměti

3,84 TB

NVMe pro OS

30 TB

NVMe pro data

Hardware

Parametr	NVIDIA DGX H100 640 GB
GPUs	8× NVIDIA H100 SXM5 80 GB
GPU memory	640 GB
CPU	Dual Intel Xeon Platinum 8480C CPU, (112 jader) 2.00 GHz (Base), 3.80 GHz (Max Boost)
Výkon (FP8 tensor operace)	32 PetaFLOPS (FP8)
# CUDA jader	135 168
# Tensor jader	4 224
Multi-instantce GPU	56 instancí
RAM	2 TB
HDD	OS: 2× 1.92 TB NVMe data: 30 TB (8× 3.84 TB) NVMe
Network	8x single-port ConnectX-7 VPI 400 Gb/s InfiniBand/ 200Gb/s Ethernet 2x dual-port ConnectX-7 VPI 400 Gb/s InfiniBand/ 200Gb/s Ethernet
Max. spotřeba	~10,2 kW max
Provedení	rack, 8U
Technická specifikace	Datasheet

Softwarová výbava

Co je ale mnohem zajímavější je již zmiňovaná softwarová výbava nabízených NVIDIA strojů. Všechny shodně nabízí předinstalovaná a především výkonově vyladěná prostředí pro strojové učení (např. Caffe, resp. Cafe 2, Theano, TensorFlow, Torch, nebo MXNet) nebo intuitivní prostředí pro datové analytiky (NVIDIA Digits). To vše elegantně zabalené v Docker kontejnerech, volně ke stažení na NVDIA GPU Cloudu (NGC). Takto vyladěné prostředí poskytuje podle NVIDIE o 30% vyšší výkon pro aplikace v oblasti učení strojů proti aplikacím nasazených jenom čistě na NVIDIA hardwaru. Hlavní výhodou předinstalovaného prostředí je rychlost nasazení, které se pohybuje v jednotkách hodin.

NVIDIA GPU Cloud (NGC)

NVIDIA GPU Cloud (NGC) představuje katalog Docker obrazů nejpoužívanějších prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění na DGX systému a stažení a spuštění v Docker kontejneru. Jednotlivá vývojová prostředí — verze všech obsažených knihoven a frameworků, nastavení parametrů prostředí — jsou aktualizovaná a optimalizovaná NVIDIÍ pro nasazení na DGX systémech. https://ngc.nvidia.com/

Podpora

Silnou stránkou nabízeného řešení NVIDIA je podpora celého systému. Hardwarová podpora (v případě selhání některé z komponent) je samozřejmostí. Zásadní je softwarová podpora pro celé prostředí pro případ, že něco nefunguje tak, jak má. Zákazník má k dispozici stovky vývojářů připravených pomoci. Podpora je součástí nákupu systémů NVIDIA DGX. Je k dispozici na 3 – 5 let a po skončení této doby je možné ji dále prodloužit.

NVIDIA podpora zahrnuje:

Vyslání technika na místo instalace (oprava u zákazníka)
Automatická vzdálená diagnostika a řešení potíží
Vydálená softwarová podpora
Přístup k nejnovějším updatům a upgradům
Přímý kontakt na odbornou podporu společnosti NVIDIA
Soukromé NGC kontejnerové úložiště pro přístup k AI a HPC softwaru v kombinaci s funkcemi pro spolupráci a sdílení napříč vaší organizací
Přístup k databázi znalostí obsahující odborné články, poznámky k aplikacím a produktovou dokumentaci
Rychlá reakce a včasné řešení problémů prostřednictvím portálu podpory a 24 × 7 telefonní linky
Podpora po dobu celáho životního cyklu NVIDIA DGX systémů a AI softwaru
Výměna vadných HW komponent do následujícího pracovního dne
DGX Systems Appliance Support Services Terms and Conditions
End-user license agreement (EULA)

Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:

NVIDIA nabízí na DGX systémy speciální cenové akce a programy pro oblasti vzdělávání (EDU) nebo start-up společností. Díky mezinárodní spolupráci mezi NVIDIA a IBM Global Financing je na modely DGX k dispozici zvýhodněné financování formou operativního leasingu.

Získat cenovou nabídku

NVIDIA Deep Learning Institute

Deep Learning Institute (DLI) nabízí on-line i hands-on školení pro vývojáře, datové analytiky nebo vědecké pracovníky, kteří řeší náročné úlohy umělé inteligence nebo akcelerovaných výpočtů.

Více informací

Společnost M Computers zastupuje společnost NVIDIA na českém trhu v Enterprise oblasti výpočetních akcelerátorů a AI systémů.

Jako první společnost ve střední a východní Evropě jsme získali nějvýšší status ELITE PARTNER a zároveň i ocenění NVIDIA AI Innovator, NVIDIA AI Champion a NVIDIA AI Expert.

Testování

Pro otestování výkonnosti a především rychlosti nasazení ML a AI aplikací máme k dispozici systém NVIDIA DGX Station a v rámci NVIDIA Tesla Test Drive programu také NVIDIA A100 a další nejnovější modely NVIDIA karet. V případě Vašeho zájmu o testování prosím vyplňte tento formulář.