Поиск по сайту

Поиск по сайту
Поиск по сайту
Рейтинг яндекса

Серверы NVIDIA HGX

Серверы NVIDIA HGX в лизинг для юридических лиц и с оплатой в рассрочку
Фильтр
Цена
34 413 695
87 736 634.41
141 059 573.82
194 382 513.22
247 705 452.63
Производитель
Показать еще
Модель
Показать еще
Максимальное количество GPU
Совместимые GPU
Показать еще
Поколение
Форм-фактор
Семейство процессоров
Показать еще
Максимальное количество процессоров
Максимальный объем оперативной памяти (ГБ)
2048
3840
5632
7424
9216
Слоты для оперативной памяти
24
26
28
30
32
Объём установленной оперативной памяти (ГБ)
1536
1920
2304
2688
3072
Максимальное количество отсеков для жестких дисков
Показать еще
Тип корпуса
Количество отсеков для БП
2
5
7
10
12
Страна бренда

25
В наличии в Москве
1x AS-A126GS-TNBR GPU, 10U B200 Air Cool, H14DSG-OD, CSE-GP1001TS, 1x 0% 3 YRS LABOR, 3 YRS PARTS, 1 YR CRS UNDER LIMITED WRNTY (EWCSC), 1x NVIDIA Umbriel GPU Baseboard, HGX B200 8-GPU 180GB HBM3e (GPU-NVHGX-B200-8180), 2x Turin 9575F DP/UP 64C/128T 3.3G 256MB 400W SP5 HF, RoHS (PSE-TUR9575F-1554), 24x 96GB DDR5-6400 2Rx4 LP ECC RDIMM, HF, RoHS (MEM-DR596L-SL02-ER64), 4x Micron 7450 PRO 3.8TB NVMe PCIe 4.0 3DTLC U.3 15mm 1DWPD (HDS-MUN-MTFDKCC3T8TFR1BC), 2x Micron 7450 PRO 960GB NVMe PCIe 4.0 M.2 22x80mm 3D TLC (HDS-MMN-MTFDKBA960TFR1BC), 8x 900-9X766-003N-SQ0 1xNDR400G IB/EN OSFP Gen5x16 NoCrypto CX7 (AOC-CX766003N-SQ0), 1x PCIe G4 x8 LP 2x 25GbE SFP28 NVIDIA CX-6 LX (AOC-S25G6-M2S-P), 8x NVIDIA ENT Business Standard Support for ADPTR-CX7 3 years (SVC-SUP-ADPTR-CX7-3S), 1x SPI TPM 2.0 using SLB9670, RoHS (AOM-TPM-9670V-P).
Артикул: AS-A126GS-TNBRx9575f
Максимальное количество GPU 8
Тип поддерживаемых GPU 8x всторенных GPU
Совместимые GPU NVIDIA HGX B200
Форм-фактор 10U
CPU AMD EPYC 9004
Максимальное количество процессоров 2
Слоты для оперативной памяти 24
HDD 10x 2.5" NVMe/SATA
Тип оперативной памяти DDR5
Блок питания 2200W
Страна бренда
141 703 450 ₽ за 1 шт
Наличие по запросу
Base PowerEdge XE9785 210-BSWB, 1x Chassis Configuration XE9785 10U Chassis with 8 GPU, 10x U2 NVMe, B300 330-BDJK, 1x Processor AMD EPYC 9575F 3.30GHz, 64C/128T, 256M Cache (400W) DDR5-6400 338-CRCH, 1x Additional Processor AMD EPYC 9575F 3.30GHz, 64C/128T, 256M Cache (400W) DDR5-6400 338-CRCH, 379-BDCO, 1x PCIe Riser Riser Config 0, No Riser for B300 379-BGPQ, 1x Processor Thermal Configuration Heatsink for 2 CPU Configuration 412-BCDZ, 1x Memory Configuration Type Performance Optimized 370-AHLL, 1x Memory DIMM Type and Speed 6400MT/s RDIMMs 370-BCCX, 24x Memory Capacity 128GB RDIMM, 6400MT/s, Dual Rank 370-BCGJ, 1x RAID Configuration C30, No RAID for NVMe chassis 780-BCDO, 1x RAID/Internal Storage Controllers No Controller 405-AACD, 1x Hard Drives No Hard Drive 400-ABHL, 2x Hard Drives (PCIe SSD/Flex Bay) 1.92TB Data Center NVMe Read Intensive AG Drive U2 with carrier 345-BJNX, 8x Hard Drives (PCIe SSD/Flex Bay) 7.68TB Data Center NVMe Read Intensive AG Drive U2 with carrier 345-BJNW, 1x Power Management BIOS Settings Performance BIOS Setting 384-BBBL, 1x Advanced System Configurations UEFI BIOS Boot Mode with GPT Partition 800-BBDM, 1x Power Supply Redundant(6+6), HotPlug MHS HLAC 54V output Titanium PSU, 3200W at 216.1-240Vac or 2900W at 200-216Vac 450-BGBJ, 12x Power Cords Jumper Cord - C19/C20, 2.5M, 250V, 16A (India BIS) 450-AGDJ, 1x Motherboard XE9785 Motherboard, B300, U.2, ROW 321-BMYW, 1x Bezel PowerEdge 2U Standard Bezel 325-BGMG, 1x GPU/DPU/Acceleration HGX B300 NVL8 SXM GPU Air cooled 1100W with 8xCX8 490-BLCS, 4x Additional Network Cards NVIDIA CX-7 Single Port NDR VPI/400GbE OSFP-RHS Adapter, No Crypto, PCIe Full Height + XE978x blank 321-BMHV, 540-BFKF, 1x Boot Optimized Storage Cards No BOSS card, Front Blank 470-BCXM, 1x OCP 3.0 Network Adapters Broadcom 57412 Dual Port 10GbE BASE-T Adapter, OCP 3.0 NIC +Sec 540-BFPX, 1x OCP 3.0 Accessories OCP Front Tray 350-BDGC, 1x Operating System No OS, No Utility Partition 611-BBBG, 1x Embedded Systems Management iDRAC10, Datacenter 17G 634-CSHS, 634-CSHT, 634-CSHV, 1x BMC Password iDRAC Legacy Password with OCP no LOM no OMM QRL 379-BFCZ, 1x Rack Rails XE978x Rack Rail 770-BGFD, 1x SHIPPING PowerEdge XE9785 Shipping, APCC, CCC4 340-DRWQ, 340-DYBK, 1x Regulatory PowerEdge No CCC, CE Label Marking 389-FHJB, 1x Shipping Material XE978x Shipping Material 340-DXRZ, 1x BIS Marking PowerEdge XE9785 BIS Label India 389-FQQD, 1x Customer Notifications Heavy device requires lift-assist cart for onsite service; otherwise, delays or extra fees may apply 883-17743, 1x Dell Services: Hardware Support Basic Next Business Day 36 Months, 36 Month(s) 709-BJPN, 1x Dell Services: Extended Service ProSupport and Next Business Day Onsite Service, 36 Month(s) 865-BBMY, 1x Infrastructure Deployment Svcs ProDeploy Plus PowerEdge XE9785 683-BMNF
Артикул: PowerEdgeXE9785B300
Максимальное количество GPU 8
Совместимые GPU NVIDIA B300
Форм-фактор 10U
CPU AMD EPYC 9005
Максимальное количество процессоров 2
Слоты для оперативной памяти 24
HDD 10x NVMe
Тип оперативной памяти DDR5
Блок питания 3200W
192 540 980 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
Base PowerEdge XE9780 210-BSMY, 1x Chassis Configuration XE9780 10U Chassis with 8 GPU, 10x U2 NVMe, B300 321-BMGF, 330-BDGP, 1x Processor Intel® Xeon® 6 Performance 6776P 2.3G, 64C/128T, 24GT/s, 336M Cache, Turbo, (350W) DDR5-6400 338-CTSX, 1x Additional Processor Intel® Xeon® 6 Performance 6776P 2.3G, 64C/128T, 24GT/s, 336M Cache, Turbo, (350W) DDR5-6400 338-CTSX, 379-BDCO, 1x PCIe Riser Riser Config 0, No Riser for B300 330-BDGM, 1x Processor Thermal Configuration Heatsink for 2 CPU Configuration 412-BCDN, 1x Memory Configuration Type Performance Optimized 370-AAIP, 1x Memory DIMM Type and Speed 6400MT/s RDIMMs 370-BCCX, 32x Memory Capacity 64GB RDIMM, 6400MT/s, Dual Rank 370-BCCZ, 1x RAID Configuration C30, No RAID for NVME chassis 780-BCDO, 1x RAID/Internal Storage Controllers No Controller 405-AACD, 1x Hard Drives No Hard Drive 400-ABHL, 8x Hard Drives (PCIe SSD/Flex Bay) 3.84TB Data Center NVMe Read Intensive AG Drive U2 with Carrier 400-BMTN, 1x Power Management BIOS Settings Performance BIOS Setting 384-BBBL, 1x Advanced System Configurations UEFI BIOS Boot Mode with GPT Partition 800-BBDM, 1x Power Supply Redundant(6+6), HotPlug MHS HLAC 54V output Titanium PSU, 3200W at 216.1-240Vac or 2900W at 200-216Vac 450-BGBJ, 12x Power Cords Jumper Cord - C19/C20, 2.5M, 250V, 16A (India BIS) 450-AGDJ, 1x Motherboard XE9780 Motherboard, B300, U2, ROW 321-BMVD, 1x Bezel PowerEdge 2U Standard Bezel 325-BGMG, 1x GPU/DPU Acceleration Cards HGX B300 NVL8 SXM GPU Air cooled 1100W with 8xCX8 490-BLCS, 1x Boot Optimized Storage Cards BOSS-N1 controller card + with 2 M.2 960GB (RAID 1) (22x80) Rear 403-BDMC, 1x OCP 3.0 Accessories No OCP - 1 Front Blank 470-BCHN, 1x Operating System No Operating System, No Utility Partition, BOSS 611-BBBX, 1x Embedded Systems Management iDRAC10, Datacenter 17G 634-CSHS, 634-CSHT, 634-CSHV, 1x BMC Password iDRAC Legacy Password with no OCP no LOM no OMM QRL 379-BFVK, 1x Rack Rails XE978x Rack Rail 770-BGFD, 1x SHIPPING PowerEdge XE9780 Shipping, APCC, CCC4 340-DRWQ, 340-DXTV, 1x Regulatory PowerEdge No CCC, CE Label Marking 389-FHJB, 1x Shipping Material XE978x Shipping Material 340-DXRZ, 1x OCP 3.0 Network Adapters No OCP Card, No Primary MAC Address 780-BCZG, 1x Customer Notifications Heavy device requires lift-assist cart for onsite service; otherwise, delays or extra fees may apply 883-17743, 1x BIS Marking PowerEdge XE9780 BIS Label India 389-FQPV, 1x Dell Services: Hardware Support Basic Next Business Day 36 Months, 36 Month(s) 709-BJJW, 1x Dell Services: Extended Service ProSupport and Next Business Day Onsite Service, 36 Month(s) 865-BBMY, 1x ProDeploy Field Deployment Services ProDeploy Plus PowerEdge XE9780 683-BMPF
Артикул: PowerEdgeXE9780B3006776P
Максимальное количество GPU 8
Совместимые GPU NVIDIA B300
Форм-фактор 10U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 16x EDSFF NVMe
Тип оперативной памяти DDR5
Блок питания 3200W
172 793 187 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
Supermicro SYS-822GS-NB3RT Server, 10U, NVIDIA HGX B300 platform with 8× Blackwell Ultra SXM GPUs and 2.31 TB HBM3e, 2× Intel Xeon 6767P (128 cores total), 2 TB DDR5-6400 ECC, 960 GB NVMe M.2 SSD, 2× 100GbE NVIDIA ConnectX-6 Dx with QSFP56, 6× 6000W PSUs (3+3).
Артикул: SYS-822GS-NB3RT2X6767P
Максимальное количество GPU 8
Совместимые GPU NVIDIA B300
Форм-фактор 8U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 8x E1.S NVMe
Тип оперативной памяти DDR5
247 705 453 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
SYS-822GS-NB3RT 8U X14 HGX 8GPU, X14DBG-LC, CSE-GP807TS,EWCSC 0% 3 YRS LABOR, 3 YRS PARTS, 1 YR CRS UNDER LIMITED WRNTY, GPU-NVHGX-B300-NVL8 NVIDIA Blackwell GPU Baseboard, HGX B300 NVL8, 8-GPU AC 2x P4X-GNR6767P-SRV5F-XCC GNR-SP 6767P, 64C, 336MB, 32x MEM-DR596L-CL02-ER64 96GB DDR5 RDIMM 6400 ECC REG—MEM-DR596L-CL02-ER64, 4x HDS-SEN-MZTL63T8HFLTAW7 PM9D3a 3.84TB NVMe PCIe5x4 E1.S 9.5mm 1DWPD SED, HDS-SMN0-MZ1L2960HCJRA7, 2xSamsung PM9A3 960GB NVMe PCIe Gen4 V6 M.2 22x110M (1DWPD) SED, 1x AOC-623106AC-CDAT 2-ports Mellanox MCX623106AC-CDAT PCIe 100GbE QSFP56 Gen4x16 CX-6, RoHS—AOC-623106AC-CDAT, 1x AOM-TPM-9672V-PAOM-TPM-9672V—TPM 2.0 with 10 pins SPI, RoHS—AOM-TPM-9672V-P, 1x MC0037 Assembly, 1x MC000E NONREFUNDABLE EXPEDITED SHIPPING FEE
Артикул: SYS-822GS-NB3RT32X96
Максимальное количество GPU 8
Совместимые GPU NVIDIA B300
Форм-фактор 8U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 8x E1.S NVMe
Тип оперативной памяти DDR5
153 039 726 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
Сервер Supermicro GPU SuperServer SYS-422GA-NBRT-LCC — это мощная 4U система с жидкостным охлаждением, оснащённая двумя процессорами Intel Xeon 6900-й серии и поддерживающая до 6 ТБ памяти DDR5 ECC. В сервере установлено 8 графических процессоров NVIDIA HGX B200 с общей памятью 1.4 ТБ, что обеспечивает выдающуюся производительность для задач искусственного интеллекта и высокопроизводительных вычислений. Помимо этого, система оснащена 8 NVMe U.2 накопителями для быстрого хранения данных и двумя 10GbE сетевыми интерфейсами, обеспечивая широкий спектр применения в науке, аналитике и обучении моделей ИИ.
Артикул: X14DBG-2xGNR6960P-24x128GB-8xNVIDIA400GbE-2xNVMe2T
Форм-фактор 4U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 24
HDD 8x 2.5" NVMe
Тип оперативной памяти DDR5
Блок питания 2200W
43 000 000 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
Supermicro HGX B200 8-GPU – высокопроизводительный сервер с архитектурой на базе двух процессоров Intel GNR-AP 6960P и 24 модулями DDR5 6400 ECC RDIMM по 128 ГБ. Оснащён комплектом из 8 GPU NVIDIA HGX B200 с памятью HBM3e 180 ГБ и высокоскоростными NVMe накопителями объемом 1.9 ТБ. Идеален для задач ИИ, научных вычислений и аналитики больших данных.
Артикул: X14DBG-DAP-2xGNR-AP-24x128GB-8xGPU
CPU Intel Xeon 6
Максимальное количество процессоров 2
HDD 8x 2.5" NVMe
43 000 000 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
Supermicro SYS-821GE-TNHR — высокопроизводительный 8U сервер премиум-класса с двумя процессорами Intel Xeon Platinum 8558 по 24 ядра, поддержкой 24 модулей DDR5 с частотой 5600 МГц и современными NVMe SSD для максимальной производительности. Оснащён мощной графической подсистемой NVIDIA HGX H100 с 8 GPU SXM, сетевыми адаптерами 10/25GbE и 100GbE.
Артикул: SYS821GE-TNHR-2x8558-24x64GB-DDR5-2x960GBNVMe-2x1.92TBSSD-HGX8H100
Форм-фактор 8U
CPU Intel Xeon Scalable Gen5
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 3x 2.5" SATA, 12x 2.5" NVMe
Тип оперативной памяти DDR5
Блок питания 2200W
34 413 695 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
Gigabyte G894-SD3-AAX7 2x Intel Xeon 6767P 32x 96GB RDIMM 6400MHz 2x 1.92TB 2x 960GB GPU B300 HGX
Артикул: G894-SD3-AAX72X6767P32X96
Максимальное количество GPU 8
Совместимые GPU NVIDIA B300
Форм-фактор 8U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 8x 2.5" NVMe
Тип оперативной памяти DDR5
Блок питания 3000
209 721 106 ₽ за 1 шт
Наличие по запросу
Наличие по запросу
ThinkSystem SR680a V4 B300 GPU Base (CBAD), 1x ThinkSystem General Computing - Power Efficiency (C3JB), 2x Intel Xeon 6767P 64C 350W 2.4GHz Processor (C5QY), 32x ThinkSystem 64GB TruDDR5 6400MHz (2Rx4) RDIMM (C0TQ), 1x Select Storage devices - no configured RAID required (5977), 6x ThinkSystem 2.5" U.2 VA 3.2TB Mixed Use NVMe PCIe 5.0 x4 HS SSD (C0ZQ), 1x ThinkSystem 2U V4 8x2.5" NVMe Backplane (C46P), 1x ThinkSystem M.2 RAID B540p-2HS SATA/NVMe Adapter (C0JJ), 2x ThinkSystem M.2 7450 PRO 960GB Read Intensive NVMe PCIe 4.0 x4 NHS SSD (BKSR), 2x ThinkSystem SR680a V4 OSFP Network Card for 8-GPU complex (CB9N), 1x ThinkSystem Mellanox ConnectX-6 Lx 10/25GbE SFP28 2-port OCP Ethernet Adapter (BE4T), 1x ThinkSystem Mellanox ConnectX-6 Lx 10/25GbE SFP28 2-port PCIe Ethernet Adapter (BE4U), 2x ThinkSystem Mellanox ConnectX-6 Dx 100GbE QSFP56 2-port PCIe Ethernet Adapter (B8PP), 1x ThinkSystem NVIDIA HGX B300 NVL8 1100W 8-GPU Board (CBAG), 4x ThinkSystem Finisar Dual Rate 10G/25G SR SFP28 Transceiver (BYBJ), 4x Lenovo 100GBase-SR4 QSFP28 Transceiver (BVA4)
Артикул: 7DMKCTO1WW2x6767P
Форм-фактор 8U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 8x 2.5" NVMe
Тип оперативной памяти DDR5
Блок питания 3200W
Наличие по запросу
Наличие по запросу
SYS-822GS-NB3RT 8U X14 HGX 8GPU X14DBG-LC CSE-GP807TS, 1x NVIDIA Blackwell GPU Baseboard HGX B300 NVL8 8-GPU AC, 2x 8/4/2P 64C HT 2.4G 336M 330W S512 T1024 4444 B2, 32x 64GB DDR5-6400 2Rx4 LP ECC RDIMM HF RoHS, 2x 960G NVMe PCIe Gen4x4 M.2 2280 1DWPD RoHS, 1x TPM 2.0 with 10 pins SPI RoHS, 1x 8-port 800GbE/XDR800 networking architecture, 1x OSFP high-speed connectivity, 1x Dual 10GbE management networking, 1x USB connectivity, 1x VGA / management display support, 1x Enterprise management interfaces, 1x Cooling architecture, 1x High-density enterprise cooling system, 1x Multi-fan redundant airflow design, 1x Intelligent thermal management controls, 1x 6x 6600W Redundant Titanium-Level Power Supplies, 1x 3+3 redundant power architecture, 1x High-efficiency enterprise power delivery platform, 1x ASSEMBLY FEE, 1x 3 YRS LABOR, 3 YRS PARTS, 1 YR CRS UNDER LIMITED WRNTY
Артикул: SYS-822GS-NB3RT32X64
Максимальное количество GPU 8
Совместимые GPU NVIDIA B300
Форм-фактор 8U
CPU Intel Xeon 6
Максимальное количество процессоров 2
Слоты для оперативной памяти 32
HDD 8x E1.S NVMe
Тип оперативной памяти DDR5
Наличие по запросу
Наличие по запросу
Серверная платформа NVIDIA HGX H20 8-GPU — это производительная платформа на архитектуре Hopper, адаптированная для регионов с экспортными ограничениями, включая Китай. Оснащена восемью GPU NVIDIA H20 с 96 ГБ HBM3 каждый, поддерживает Transformer Engine, форматы FP8, FP16 и TF32, а также межсвязь NVLink и NVSwitch. Идеально подходит для обучения и инференса LLM, генеративного ИИ, промышленной аналитики и построения масштабируемых ИИ-систем.
Артикул: HGX H20 8-GPU
Максимальное количество GPU 8
Тип поддерживаемых GPU 8x встроенных GPU
Совместимые GPU NVIDIA H20
CPU Intel Xeon Scalable Gen4
Слоты для оперативной памяти 32
HDD 8x 2.5" NVMe
Тип оперативной памяти DDR5
Страна бренда
Наличие по запросу
Наличие по запросу
Серверная платформа NVIDIA HGX H800 8-GPU — это адаптированная платформа на архитектуре Hopper для высокопроизводительных ИИ-вычислений и обучения крупных моделей в условиях экспортных ограничений. Оснащена восемью GPU NVIDIA H800 с 80 ГБ HBM3 каждый, поддерживает Transformer Engine, форматы FP8 и FP16, а также межсвязь NVLink и NVSwitch. Подходит для генеративного ИИ, LLM, научных симуляций и развёртывания в корпоративных и исследовательских ИИ-кластерах.
Артикул: HGX H800 8-GPU
Максимальное количество GPU 8
Тип поддерживаемых GPU 8x встроенных GPU
Совместимые GPU NVIDIA H800
CPU Intel Xeon Scalable Gen4
Слоты для оперативной памяти 32
HDD 8x 2.5" NVMe
Тип оперативной памяти DDR5
Страна бренда
Наличие по запросу

Что такое NVIDIA HGX

NVIDIA HGX — системная плата с ускорителями, на которой строятся самые производительные GPU-серверы. На плате установлены 4 или 8 графических ускорителей в исполнении SXM, связанных между собой NVLink, а в 8-GPU версиях — ещё и коммутаторами NVSwitch. Благодаря этому каждый GPU обменивается данными с любым другим напрямую, на скорости, недоступной для обычных PCIe-карт.

NVIDIA выпускает плату HGX, а серверы на её основе производят Dell, HPE, Lenovo, Supermicro, ASUS, GIGABYTE и другие компании. На той же плате построены и системы NVIDIA DGX.

Поколения HGX

  • HGX B300 — 8 ускорителей Blackwell Ultra по 288 ГБ HBM3e. Для инференса и обучения крупнейших моделей.
  • HGX B200 — 8 ускорителей Blackwell с поддержкой FP4 и NVLink пятого поколения.
  • HGX H200 — 8 ускорителей H200 по 141 ГБ HBM3e, всего около 1,1 ТБ памяти GPU.
  • HGX H100 — 4 или 8 ускорителей H100, стандарт для обучения нейросетей.
  • HGX A100 — 4 или 8 ускорителей A100 предыдущего поколения.
  • HGX H800 и H20 — модификации поколения Hopper.

HGX на 4 и 8 GPU

8-GPU платформы с NVSwitch — выбор для обучения больших языковых моделей: все восемь ускорителей работают как единый пул. 4-GPU платформы связаны NVLink напрямую и подходят для меньших моделей, дообучения и HPC-задач, когда восемь ускорителей избыточны.

HGX или серверы с PCIe-картами

В сервер с PCIe-слотами можно установить несколько видеокарт, но связь между ними идёт через шину PCIe или мосты NVLink между парами карт. В HGX все GPU связаны полноценно, поэтому при обучении моделей, распределённых по нескольким ускорителям, HGX работает заметно быстрее. Для инференса и задач, где модель помещается в один GPU, достаточно серверов с PCIe-картами — они есть в разделе GPU-серверы.

Что учесть при выборе сервера HGX

  • Поколение ускорителей. Для новых проектов с LLM — Blackwell (B200, B300) или H200; H100 и A100 — когда важна цена и модели помещаются в их память.
  • Процессоры и память. Сервер HGX комплектуется двумя серверными процессорами Intel Xeon или AMD EPYC и большим объёмом оперативной памяти, чтобы ускорители не простаивали.
  • Сеть для кластера. Если серверов будет несколько, закладывайте сетевые адаптеры InfiniBand или Ethernet высокой скорости — по одному на GPU.
  • Площадка. Серверы на 8 GPU занимают несколько юнитов в стойке и требуют мощного питания и охлаждения; для части моделей последних поколений нужно жидкостное охлаждение.

HGX или DGX

DGX — система NVIDIA на той же плате HGX в фиксированной конфигурации и с программным стеком NVIDIA. Серверы HGX других производителей позволяют выбрать процессоры, память, накопители и сеть под задачу и вписать сервер в существующий парк оборудования.

Вопросы и ответы

? Что такое NVIDIA HGX?
Системная плата NVIDIA с 4 или 8 ускорителями SXM, связанными NVLink и NVSwitch. На ней строятся GPU-серверы разных производителей и системы DGX.
? Какой HGX выбрать для LLM?
? Можно ли установить HGX в обычный сервер?