NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise

Předp. cena 859 999,-

NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise

ℹ️

Tento produkt je určen pouze pro podnikatele, státní a vzdělávací instituce. Dokončením objednávky na e-shopu nedochází k uzavření smlouvy, ale pouze k odeslání poptávky.

Prodej produktu podléhá vývozním, sankčním a dalším právním omezením. Před přijetím objednávky je nutné ověřit kupujícího, konečného uživatele, zemi dodání a účel použití. Poptávka může být přijata až po úspěšné autorizaci ze strany dodavatele.

V případě nesplnění požadovaných podmínek může být poptávka odmítnuta nebo objednávka zrušena bez nároku na dodání zboží.

V případě zájmu o koupi AI řešení nebo akcelerátoru nám můžete také napsat na [email protected]. Následně vám připravíme nabídku a individuální smlouvu. Více informací viz obchodní podmínky (body 3.33 a 3.34).

nvidia logo

Grafická karta NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise

NVIDIA H200 NVL Passive PCIe 141GB odpovídá na tento hlad způsobem, který konkurence teprve dohání: 141 GB paměti HBM3e s propustností 4,8 TB/s, architektura NVIDIA Hopper s čipem GH100 a výkonem 3 341 TFLOPS v FP8 a 1 671 TFLOPS v FP16 pro inference i trénování největších AI modelů přímo v PCIe racku bez nutnosti specializované HGX infrastruktury. Oproti H100 NVL přináší NVIDIA H200 NVL až 1,7× vyšší výkon při inference LLM a 1,3× vyšší výkon pro HPC aplikace – a pětiletá licence NVIDIA AI Enterprise v ceně zajistí produkční nasazení od prvního dne.

Nvidia GeForce RTX 40

HBM3 / 141 GB

Operační paměť
NVIDIA GPU

PCIe 5.0 x16

Rozhraní sběrnice
NVIDIA GPU

Není

Přídavné napájení
Nvidia GeForce RTX 40

Tesla Hopper (GH100)

Architektura čipu
Nvidia GeForce RTX 40

1 600 W

Doporučený výkon zdroje
NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise

Klíčové vlastnosti grafické karty NVIDIA H200 NVL Passive PCIe 141GB with NVIDIA AI Enterprise

  • Karta disponuje 141 GB paměti HBM3e s propustností 4,8 TB/s na 6 144bitové sběrnici – téměř dvojnásobná kapacita a 1,4× vyšší propustnost oproti H100 – pro inference a trénování největších jazykových modelů, vědeckých simulací i HPC workloadů bez paměťových omezení
  • Architektura NVIDIA Hopper s čipem GH100 a boost frekvencí až 1 785 MHz dosahuje 60 TFLOPS ve FP32, 1 671 TFLOPS v FP16/BF16 a 3 341 TFLOPS v FP8 a INT8 pro maximální výkon AI inference a trénování rozsáhlých modelů
  • Multi-Instance GPU umožňuje rozdělit kartu na až 7 plně izolovaných instancí po 16,5 GB, každou s vlastní pamětí, cache a garantovanou kvalitou služby pro bezpečný souběžný provoz více uživatelů nebo workloadů na jediné kartě
  • Podpora 2 nebo 4-way NVIDIA NVLink bridge s propustností 900 GB/s per GPU umožňuje propojit až čtyři H200 NVL karty do výkonného multi-GPU clusteru s větší sdílenou pamětí pro extrémně velké modely a datasety
  • Rozhraní PCIe Gen 5 s propustností 128 GB/s umožňuje nasazení v standardních enterprise serverových skříních bez nutnosti specializované HGX nebo DGX infrastruktury, což výrazně snižuje bariéru vstupu pro AI datová centra
  • Confidential Computing s hardwarovou izolací chrání citlivá data a AI modely před neoprávněným přístupem i v sdílené serverové infrastruktuře pro splnění přísných bezpečnostních a compliance požadavků
  • Sedm NVDEC dekodérů a sedm JPEG enkodérů zajistí hardwarovou akceleraci zpracování videa a obrazových dat pro vizi AI aplikace, mediální workflow i datové pipeline ve velkém měřítku
  • Karta přichází s pětiletou licencí NVIDIA AI Enterprise zahrnující NVIDIA NIM mikroslužby, optimalizované frameworky pro generativní AI, počítačové vidění, řečové AI a RAG systémy s enterprise-grade bezpečností a podporou
  • TBP až 600 W (konfigurovatelné) s rozhraním PCIe 5.0 x16 vyžaduje serverovou infrastrukturu s odpovídajícím napájením a chlazením pro stabilní produkční provoz

Paměťová propustnost, která mění AI inference

Největší brzda moderní AI inference není výpočetní výkon – je to přesun dat mezi pamětí a výpočetními jádry. NVIDIA H200 NVL PCIe 141GB tuto bariéru odstraňuje radikálně. Celkových 141 GB HBM3e s propustností 4,8 TB/s zajistí, že výpočetní jádra nikdy nečekají na data. Modely jako Llama2 70B zvládne H200 NVL zpracovávat až 1,7× rychleji než H100 NVL, GPT-3 175B pak 1,6× rychleji – a to při identickém výkonovém profilu, což znamená stejné nároky na napájení a chladicí infrastrukturu. Pro AI factory a superpočítačové systémy, které potřebují více výkonu bez rozšíření energetické infrastruktury, je NVIDIA H200 NVL přirozená volba.

NVIDIA GPU

PCIe form factor pro datová centra bez HGX infrastruktury

Výkon HGX třídy v serverech, které ho dříve nedokázaly pojmout – to je přesně to, co NVIDIA H200 NVL PCIe 141GB nabízí. Zatímco SXM provedení vyžaduje specializovanou HGX základní desku, PCIe varianta zapadne do standardních enterprise serverů NVIDIA MGX a NVIDIA-Certified Systems s kapacitou až osmi GPU v jednom systému. Podpora 2 nebo 4-way NVLink bridge s propustností 900 GB/s per GPU pak umožňuje vybudovat výkonný multi-GPU cluster i bez proprietárního propojovacího systému. Pro datová centra, která chtějí upgradovat existující serverovou infrastrukturu místo jejího úplného nahrazení, je to strategická volba s okamžitou návratností.

NVIDIA GPU

5 let NVIDIA AI Enterprise

Hardware bez softwaru je polovina řešení. NVIDIA H200 NVL PCIe 141GB proto přichází s pětiletým předplatným NVIDIA AI Enterprise v ceně – kompletní platformou pro vývoj a produkční nasazení generativní AI, řečových modelů, RAG systémů a agentic AI aplikací. NVIDIA NIM mikroslužby umožňují nasadit optimalizované AI modely jako kontejnery s minutovým lead time, enterprise ovladače a podpora zajistí stabilitu a bezpečnost pro mission-critical nasazení. Pro organizace, které potřebují přejít od AI experimentů k produkční infrastruktuře, zkracuje H200 NVL s AI Enterprise cestu z prototypu do produkce na minimum.

NVIDIA GPU
Nvidia GeForce RTX 40

Architektura NVIDIA Hopper

Definuje standardy moderní AI inference a HPC výpočtů
Nvidia GeForce RTX 40

3 958 TFLOPS v FP8

Výkon AI inference architektury Hopper pro LLM ve velkém měřítku
Nvidia GeForce RTX 40

141 GB HBM3e

4,8 TB/s propustnost pro inference a trénování největších AI modelů
Nvidia GeForce RTX 40

NVLink 900 GB/s

Propojení až čtyř GPU do multi-GPU clusteru s extrémní datovou propustností
Nvidia GeForce RTX 40

7× MIG po 16,5 GB

Až 7 izolovaných GPU instancí pro sdílené datové centrum prostředí
Nvidia GeForce RTX 40

Confidential Computing

Hardwarová izolace dat a modelů pro compliance a bezpečnostní požadavky
Nvidia GeForce RTX 40

PCIe Gen 5 form factor

Nasazení v standardních enterprise serverech bez HGX infrastruktury
Nvidia GeForce RTX 40

5 let NVIDIA AI Enterprise

NIM mikroslužby, enterprise podpora a optimalizované AI frameworky v ceně

Parametry a specifikace

Čip

Výrobce čipu NVIDIA
Modelové označení H200
Grafický procesor GH100
Počet stream procesorů 16 896×
Výrobní technologie 5 nm

Výkon a použití

Použití Profesionální
Profil karty FHFL

Paměť

Kapacita VRAM 141 GB
Typ paměti HBM3e
Šířka sběrnice 6 144-Bit

Frekvence

Frekvence jádra 1 365 MHz
Frekvence jádra (Boost clock) 1 785 MHz
Frekvence paměti 6 400 MHz (6,4 GHz)
Efektivní takt paměti (propustnost) 6,4 Gbps

Rozhraní

Pro připojení k PC PCI Express x16 5.0
Rozhraní sběrnice PCIe 5.0 x16
Verze NVLink 4.0

Technologie

Verze DirectX 12 Ultimate

Chlazení

Typ chladiče Pasivní
Velikost chladiče Dvouslotový

Rozměry

Šířka 266,7 mm
Hloubka 111,8 mm

Spotřeba

TDP 600 W

AI

Počet TOPs (celkem) 3 958
INT8 TOPS 3 341
Max. počet MIG instancí 7
Podporovaná přesnost FP64

NCNR (Non-Cancellable, Non-Returnable)

Způsob nákupu pro firmy Na poptávku s individuální smlouvou

TOPs

Počet TOPs (celkem) 3 958

AI specifikace

Primární AI použití LLM Inference
Kód:  NVh01
Záruka: 36 měsíců
Odkazy: Stránky výrobce