NVIDIA DGX H200 (8×2.5" SFF, 8× GPU) [DGX H200]

NVIDIA DGX H200 (8×2.5" SFF, 8× GPU) [DGX H200] Тип системы: Сервер для AI/ML-вычислений (DGX-платформа) Форм-фактор: 10U (rackmount) Процессор: 2× Intel Xeon Platinum 8480C (60 ядер, 2.0 ГГц базовая, 3.8 ГГц turbo, 350 Вт TDP) Количество процессоров: 2 Итого ядер CPU: 120 физических / 240 потоков Оперативная память: 2 ТБ DDR5 RDIMM ECC Число слотов памяти: 32 Максимальная частота памяти: 4800 МГц GPU: 8× NVIDIA H200 SXM (архитектура Hopper, GH200) Объём VRAM (один GPU): 141 ГБ HBM3e Суммарный объём VRAM: 1128 ГБ (~1.1 ТБ) HBM3e Пропускная способность памяти GPU (один): 4.8 ТБ/с GPU Interconnect: NVLink 4.0, 900 ГБ/с (двунаправленно между GPU) NVSwitch: 4× NVSwitch 3-го поколения (коммутация GPU-GPU) GPU TDP: 700 Вт (на GPU) Суммарная мощность GPU: 5600 Вт Производительность FP8 Tensor Core: 31 664 TFLOPS (суммарно 8 GPU) Производительность BF16/FP16 Tensor Core: 15 832 TFLOPS (суммарно 8 GPU) Производительность TF32 Tensor Core: 7 912 TFLOPS (суммарно 8 GPU) Производительность FP64 Tensor Core: 536 TFLOPS (суммарно 8 GPU) Производительность INT8 Tensor Core: 31 664 TOPS (суммарно 8 GPU) Системное хранилище (ОС): 2× 1.92 ТБ NVMe SSD (M.2, RAID 1) Дополнительное хранилище: 8× 3.84 ТБ U.2 NVMe SSD (опционально) Сетевые интерфейсы: 8× NVIDIA ConnectX-7 (400 ГБит/с InfiniBand / Ethernet, по одному на GPU) Управление: 1× 10/100/1000 Мбит/с BMC (IPMI/REDFISH), 1× 1GbE RJ-45 PCIe: PCIe 5.0 Блок питания: 10× 3000 Вт (резервирование N+1) Суммарная потребляемая мощность (максимум): ~10,2 кВт Охлаждение: Принудительное воздушное, горячая замена вентиляторов Рабочая температура: 10–30 °C Влажность: 10–90% (без конденсата) Масса: ~227 кг Операционная система: Ubuntu 22.04 LTS (предустановлена), поддержка RHEL Программный стек: NVIDIA AI Enterprise, CUDA 12.x, cuDNN, NCCL, TensorRT, NGC-контейнеры MTBF: данные производителя не публикуются (enterprise SLA) P/N основной: 920-23687-2500-000 P/N альт.: DGX-H200 / 920-23687-2500-001 Модели: DGX H200 (NVIDIA) Совместимость: NVIDIA DGX SuperPOD / NVIDIA Base Command Manager / NVIDIA AI Enterprise / CUDA 12.x / PyTorch / TensorFlow / JAX / vLLM / TensorRT-LLM / NEMO Framework / Triton Inference Server