NVIDIA H100 94GB HBM2 900-21010-0020-000

Popis

NVIDIA H100 94GB HBM2 – revolúcia vo výpočtovej hustote

NVIDIA H100 94GB HBM2 je navrhnutá pre najnáročnejšie dátové centrá, ktoré potrebujú kombináciu extrémneho výkonu, škálovateľnosti a spoľahlivosti. S 94 GB HBM2 pamäte s priepustnosťou takmer 4000 GB/s urýchľuje spracovanie veľkých modelov a obrovských dátových súborov. Vďaka základnému taktu 1080 MHz a boost taktu 1785 MHz spolu s 14 592 CUDA jadrami a 448 XMX AI engine zvláda karta mix úloh od tréningu neurónových sietí až po inferenciu veľkých jazykových modelov.

S pasívnym chladičom a duálnym spätným prúdením vzduchu je NVIDIA H100 94GB HBM2 optimalizovaná pre serverové šasi s vysokým prúdením vzduchu. Karta pracuje bez obmedzení až do svojho návrhového TDP 400 W a vďaka prepínateľným režimom napájania môžete zvoliť 310 W, 400 W alebo 450 W podľa kapacít zdroja. Toto nastavenie zaisťuje optimálnu rovnováhu medzi spotrebou energie a maximálnym výkonom.

Cena

NVIDIA H100 94GB HBM2 – flexibilita vďaka Multi‑Instance GPU

NVIDIA H100 94GB HBM2 prináša špičkovú technológiu Multi‑Instance GPU (MIG), ktorá umožňuje rozdeliť kartu na až sedem samostatných GPU inštancií. Každá inštancia dostane vlastnú časť pamäte, cache a výpočtových jadier. Vďaka tomu môžete spúšťať viacero menších úloh paralelne alebo zoskupiť zdroje pre veľké modely podľa potreby. Táto pružnosť pomáha maximalizovať využitie GPU vďaka dynamickému prerozdeľovaniu výkonu.

Kľúčové vlastnosti NVIDIA H100 94GB HBM2

• 94 GB HBM2 pamäte: špičková šírka pásma 3938 GB/s pre rýchle načítanie veľkých dát
• 14 592 CUDA jadier + 448 XMX engine: efektívne pre AI a vedecké výpočty
• NVLink Bridge: tri mosty s priepustnosťou 600 GB/s pre rýchlu komunikáciu medzi kartami
• Programovateľný TDP: režimy 310 W, 400 W, 450 W pre prispôsobenie zdrojom
• MIG: až 7 hardvérovo izolovaných GPU pre elasticitu úloh
• PCIe Gen5 x16: dvojitá šírka pásma oproti minulým generáciám
• SR‑IOV: 32 virtuálnych funkcií pre zdieľanie GPU v cloude
• Secure Boot: overenie firmvéru pre ochranu proti neoprávneným zmenám

Škálovanie výkonu a sieťové prepojenie

Vďaka podpore NVLink môžete dve H100 karty prepojiť tromi mostmi a získať až 600 GB/s obojsmernej priepustnosti. To znamená desaťnásobok šírky pásma PCIe Gen4 a umožňuje spúšťať ešte väčšie modely naprieč viacerými kartami. Pri nasadení v dátových centrách tak dosiahnete lineárne škálovanie výkonu pri paralelnom spracovaní úloh.

Softvér a ekosystém

Kartu spravujete cez nástroje ako nvidia-smi alebo SMBPBI. Podporuje CUDA 12.2+, AI Enterprise, Virtual Compute Server a je certifikovaná pre NVIDIA-Certified Systems. Firmware sa bezpečne načítava cez root of trust a karta je plne kompatibilná s Linuxom aj Windows Serverom.

NVIDIA H100 94GB HBM2 predstavuje jednotnú platformu pre tréning aj inferenciu, pre umelú inteligenciu, HPC a dáta. Pomocou MIG dokážete rozdeliť zdroje podľa aktuálnych potrieb a NVLink zaručuje, že prelínanie dát medzi GPU bude bez úzkych hrdiel. Ak chcete využiť plný potenciál vašich dát a modelov, táto karta vám otvorí cestu k rýchlym výsledkom aj pri tých najväčších výzvach.