NVIDIA H200 — ускоритель архитектуры Hopper со 141 ГБ памяти HBM3e и пропускной способностью 4,8 ТБ/с. В серверах H200 используется в двух вариантах: модули SXM5 на платформе HGX и платы H200 NVL с интерфейсом PCIe.
| 8 × H200 SXM5 (HGX H200) | 4 или 8 × H200 NVL (PCIe) | |
|---|---|---|
| Память GPU на сервер | около 1,1 ТБ HBM3e | 564 ГБ (4 карты) или около 1,1 ТБ (8 карт) |
| Связь между GPU | NVLink и NVSwitch между всеми ускорителями | Мосты NVLink между соседними картами |
| Для каких задач | Обучение и дообучение больших моделей | Инференс LLM, RAG, дообучение |
H200 и H100 — одно поколение Hopper с одинаковой вычислительной частью. Разница в памяти: 141 ГБ HBM3e против 80–94 ГБ. Для больших моделей и длинного контекста сервер с H200 обходится меньшим числом ускорителей и работает быстрее при генерации ответов.
В каталоге — серверы с H200 от Dell, HPE, Lenovo, Supermicro, xFusion, ASUS, GIGABYTE, Cisco и NVIDIA на 4 и 8 ускорителей. Видеокарты отдельно — в разделе видеокарты NVIDIA H200.
Подберём конфигурацию — SXM5 или NVL, 4 или 8 GPU — и подготовим коммерческое предложение за час. Гарантия до 5 лет, бесплатная доставка по России, лизинг и рассрочка для юридических лиц.