GPU-сервер — это сервер, в котором основную вычислительную работу выполняют графические ускорители (GPU), а не центральные процессоры. Тысячи ядер GPU обрабатывают данные параллельно, поэтому такие серверы в десятки раз быстрее обычных в задачах, которые сводятся к матричным вычислениям: обучении нейросетей, рендеринге, научном моделировании.
От обычного сервера GPU-сервер отличается конструкцией: мощные блоки питания, усиленное охлаждение для нескольких ускорителей, большое число линий PCIe и, в старших моделях, специальная плата NVIDIA HGX, на которой ускорители связаны между собой напрямую.
Модель ускорителя определяет, какие задачи сервер решит и с какой скоростью.
Серверы с PCIe-ускорителями вмещают от 1 до 8–10 карт в стандартных слотах. Их проще масштабировать: можно начать с двух карт и добавить остальные позже. Подходят для инференса, дообучения, рендеринга.
Серверы на платформе NVIDIA HGX несут 4 или 8 ускорителей в исполнении SXM, связанных через NVLink и NVSwitch. Обмен данными между GPU идёт в разы быстрее, чем через PCIe, поэтому HGX выбирают для обучения больших моделей, которые не помещаются в один ускоритель.
Простое правило: если модель помещается в память одного GPU и нужно обрабатывать много запросов — достаточно сервера с PCIe-картами. Если модель нужно распределять по нескольким GPU — нужна платформа HGX.
В каталоге Kvantech — GPU-серверы Dell, HPE, Lenovo, Supermicro, xFusion, ASUS, GIGABYTE, Cisco, NVIDIA и других производителей: от компактных серверов на 1–2 GPU до систем на 8 ускорителей. Если нужной конфигурации нет в списке, соберём её под задачу в онлайн-конфигураторе или с инженером.