NVIDIA H100 — графический ускоритель для дата-центров на архитектуре Hopper. Он стал стандартом для обучения и инференса нейросетей: в H100 появился Transformer Engine с поддержкой формата FP8, который ускоряет работу трансформеров — архитектуры, на которой построены современные языковые модели.
| H100 PCIe | H100 NVL | H100 SXM5 | |
|---|---|---|---|
| Память | 80 ГБ HBM2e, 2 ТБ/с | 94 ГБ HBM3, 3,9 ТБ/с | 80 ГБ HBM3, 3,35 ТБ/с |
| Подключение | Плата PCIe 5.0 | Плата PCIe 5.0, пары карт через мост NVLink | Модуль на платформе NVIDIA HGX |
| Где используют | Стандартные серверы | Серверы для инференса LLM | Серверы на 4 или 8 GPU для обучения |
H100 NVL создан для инференса больших языковых моделей: в нём задействован дополнительный блок памяти, поэтому объём и скорость выше, чем у обычной PCIe-версии. SXM5 — максимальная производительность в связке из нескольких GPU через NVSwitch.
H200 — следующий шаг в той же архитектуре Hopper: 141 ГБ памяти HBM3e против 80–94 ГБ у H100. Если модели и контекст помещаются в память H100, он остаётся рациональным выбором по соотношению цены и производительности. Для крупных LLM и длинного контекста смотрите видеокарты NVIDIA H200.
Подберём версию H100 под ваш сервер и задачу и проверим совместимость. Коммерческое предложение — за час, гарантия до 5 лет, бесплатная доставка по России, лизинг и рассрочка для юридических лиц. Готовые серверы с H100 — в разделе GPU-серверы.