GPU jader
GPU paměti
CPU jader
8x NVIDIA A100 40/80 GB
2× AMD Epyc 7742
16/32x 64 GB DDR4
8x 200 Gb/s HDR InfiniBand
2/4x 200 Gb/s Ethernet
2x 1,92 TB NVMe
4/8x 3,84 TB NVMe
rack, 6U
RAM paměti
NVMe pro OS
NVMe pro data
Hardware
Parametr | NVIDIA DGX A100 320 GB | NVIDIA DGX A100 640 GB |
---|---|---|
GPUs | 8× NVIDIA A100 SXM4 40 GB | 8× NVIDIA A100 SXM4 80 GB |
GPU memory | 320 GB total | 640 GB total |
CPU | 2× AMD Epyc 7742 (64 cores, 2.25GHz) | |
Výkon (tensor operace) | 5 PetaFLOPS | |
# CUDA jader | 55 296 | |
# Tensor jader | 3 456 | |
Multi-instantce GPU | 56 instancí | |
RAM | 1 TB | 2 TB |
HDD | OS: 2× 1.92 TB NVMe data: 15 TB (4× 3.84 TB) NVMe | OS: 2× 1.92 TB NVMe data: 30 TB (8× 3.84 TB) NVMe |
Network | 8x 200 Gb/s HDR InfiniBand 2x 200 Gb/s Ethernet | 8x 200 Gb/s HDR InfiniBand 4x 200 Gb/s Ethernet |
Max. spotřeba | 6.5 kW | |
Provedení | rack, 6U | |
Technická specifikace | Stáhnout datasheet |
Softwarová výbava
Co je ale mnohem zajímavější je již zmiňovaná softwarová výbava nabízených NVIDIA strojů. Všechny shodně nabízí předinstalovaná a především výkonově vyladěná prostředí pro strojové učení (např. Caffe, resp. Cafe 2, Theano, TensorFlow, Torch, nebo MXNet) nebo intuitivní prostředí pro datové analytiky (NVIDIA Digits). To vše elegantně zabalené v Docker kontejnerech, volně ke stažení na NVDIA GPU Cloudu (NGC). Takto vyladěné prostředí poskytuje podle NVIDIE o 30% vyšší výkon pro aplikace v oblasti učení strojů proti aplikacím nasazených jenom čistě na NVIDIA hardwaru. Hlavní výhodou předinstalovaného prostředí je rychlost nasazení, které se pohybuje v jednotkách hodin.
NVIDIA GPU Cloud (NGC)
NVIDIA GPU Cloud (NGC) představuje katalog Docker obrazů nejpoužívanějších prostředí pro vývoj machine learning a deep learning aplikací, HPC aplikací nebo vizualizaci akcelerovanou NVIDIA GPU kartami. Nasazení těchto aplikací je pak otázkou zkopírování odkazu na příslušný Docker obraz, jeho spuštění na DGX systému a stažení a spuštění v Docker kontejneru. Jednotlivá vývojová prostředí — verze všech obsažených knihoven a frameworků, nastavení parametrů prostředí — jsou aktualizovaná a optimalizovaná NVIDIÍ pro nasazení na DGX systémech. https://ngc.nvidia.com/
Podpora
Silnou stránkou nabízeného řešení NVIDIA je podpora celého systému. Hardwarová podpora (v případě selhání některé z komponent) je samozřejmostí. Zásadní je softwarová podpora pro celé prostředí pro případ, že něco nefunguje tak, jak má. Zákazník má k dispozici stovky vývojářů připravených pomoci. Podpora je součástí nákupu systémů NVIDIA DGX. Je k dispozici na 3 – 5 let a po skončení této doby je možné ji dále prodloužit.
NVIDIA podpora zahrnuje:
- Vyslání technika na místo instalace (oprava u zákazníka)
- Automatická vzdálená diagnostika a řešení potíží
- Vydálená softwarová podpora
- Přístup k nejnovějším updatům a upgradům
- Přímý kontakt na odbornou podporu společnosti NVIDIA
- Soukromé NGC kontejnerové úložiště pro přístup k AI a HPC softwaru v kombinaci s funkcemi pro spolupráci a sdílení napříč vaší organizací
- Přístup k databázi znalostí obsahující odborné články, poznámky k aplikacím a produktovou dokumentaci
- Rychlá reakce a včasné řešení problémů prostřednictvím portálu podpory a 24 × 7 telefonní linky
- Podpora po dobu celáho životního cyklu NVIDIA DGX systémů a AI softwaru
- Výměna vadných HW komponent do následujícího pracovního dne
- DGX Systems Appliance Support Services Terms and Conditions
- End-user license agreement (EULA)
Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:
Díky kombinaci vyladěného hardwaru, softwaru a podpory NVIDIA přináší NVIDIA DGX výrazně vyšší výkon a zrychlení ve fázi učení aplikací strojového učení:
NVIDIA nabízí na DGX systémy speciální cenové akce a programy pro oblasti vzdělávání (EDU) nebo start-up společností. Díky mezinárodní spolupráci mezi NVIDIA a IBM Global Financing je na modely DGX k dispozici zvýhodněné financování formou operativního leasingu.
Deep Learning Institute (DLI) nabízí on-line i hands-on školení pro vývojáře, datové analytiky nebo vědecké pracovníky, kteří řeší náročné úlohy umělé inteligence nebo akcelerovaných výpočtů.
Společnost M Computers zastupuje společnost NVIDIA na českém trhu v Enterprise oblasti výpočetních akcelerátorů a AI systémů.
V loňském roce získala jako první společnost ve střední a východní Evropě nějvýšší status ELITE PARTNER a zároveň i dvě ocenění NVIDIA AI Innovator a NVIDIA AI Champion.
Testování
Pro otestování výkonnosti a především rychlosti nasazení ML a AI aplikací máme k dispozici systém NVIDIA DGX Station a v rámci NVIDIA Tesla Test Drive programu také 2× NVIDIA Tesla V100 a NVIDIA Tesla T4. V případě Vašeho zájmu o testování prosím vyplňte tento formulář.