Видеокарта NVIDIA L40 24GB GDDR6

NVIDIA L40 24GB — это профессиональный графический ускоритель дата-центрового класса на архитектуре NVIDIA Ada Lovelace, ориентированный на задачи визуализации, искусственного интеллекта, инференса моделей и высокопроизводительных вычислений в серверных и облачных средах. В официальной документации NVIDIA L40 GPU Accelerator L40 описывается как универсальный GPU для графики, ИИ и вычислений (universal accelerator for graphics, AI, and compute), реализованный в формате полноразмерной двухслотовой PCI Express Gen4 карты. В даташитах NVIDIA и партнёров приводится конфигурация архитектуры Ada: 18 176 CUDA‑ядер, 568 тензорных ядер четвёртого поколения и 142 RT‑ядра третьего поколения, что обеспечивает высокий уровень производительности для смешанных графико‑вычислительных нагрузок. Видеопамять реализована на базе GDDR6 с поддержкой ECC, подключённой по 384‑битной шине с пиковой пропускной способностью 864 GB/s, что позволяет эффективно обрабатывать большие объёмы данных и сцены высокой сложности.

Согласно продукт‑гайду Lenovo ThinkSystem NVIDIA L40 48GB PCIe Gen4 Passive GPU, пиковая производительность L40 в режиме FP32 (non-Tensor) составляет порядка 90,5 TFLOPS, а RT‑ядра обеспечивают до 209 TFLOPS трассировки лучей. В таблицах производительности тензорных ядер, приведённых NVIDIA и партнёрами, указывается: FP16 Tensor Core — 181,05 / 362,1 TFLOPS (без / с учётом sparsity), FP8 Tensor Core — 362 / 724 TFLOPS, Peak INT8 Tensor — 362 / 724 TOPS, Peak INT4 Tensor — 724 / 1448 TOPS. Эти значения подтверждаются и в описаниях Elmark Automation и других реселлеров, где L40 позиционируется как универсальный GPU на архитектуре Ada с 18 176 CUDA Cores, 568 Tensor Cores, 142 RT Cores и пиковой пропускной способностью памяти 864 GB/s. Форм‑фактор L40 — 4,4" (H) × 10,5" (L), двухслотовая карта PCIe Gen4 x16 с четырьмя DisplayPort 1.4a и максимальной мощностью платы около 300 W.

Архитектура и ключевые характеристики

Архитектура NVIDIA L40 24GB основана на NVIDIA Ada Lovelace, изначально разработанной для задач визуализации и ИИ, и включает в себя 18 176 CUDA‑ядер, 568 тензорных ядер четвёртого поколения и 142 RT‑ядра третьего поколения. В официальном даташите NVIDIA L40 указывается, что GPU поддерживает вычислительные форматы TF32, FP32, FP16, BF16, FP8, INT8 и INT4, а также sparsity, что позволяет кратно увеличивать эффективную производительность тензорных ядер при разреженных моделях. Пиковые показатели для тензорных ядер приведены как FP16 Tensor Core 181,05 / 362,1 TFLOPS, FP8 Tensor 362 / 724 TFLOPS, Peak INT8 Tensor 362 / 724 TOPS и Peak INT4 Tensor 724 / 1448 TOPS (значения без / с учётом sparsity).

Подсистема памяти NVIDIA L40 реализована на базе GDDR6 с поддержкой ECC. В L40 Datasheet (NVIDIA и Azken) указано: 384‑разрядная шина памяти и Peak memory bandwidth 864 GB/s. В продукт‑гайде Lenovo ThinkSystem для L40 приводится конфигурация: GPU Memory 48 GB GDDR6 with ECC и Memory Bandwidth 864 GB/s; для вариантов с 24 ГБ GDDR6 сохраняется тот же тип памяти и ширина шины, но с уменьшённым общим объёмом видеопамяти. Интерфейс PCIe Gen4 x16 обеспечивает пропускную способность 64 GB/s в каждую сторону, что отмечено в продукт‑брифе NVIDIA L40 GPU Accelerator. Форм‑фактор указан как 4.4” (H) × 10.5” (L) dual slot, с четырьмя DisplayPort 1.4a и поддержкой до четырёх дисплеев.

Графическая часть L40 включает RT‑ядра третьего поколения для аппаратной трассировки лучей и поддержку DirectX 12 Ultimate, Vulkan и OpenGL, что позволяет эффективно ускорять рендеринг сложных сцен, интерактивную визуализацию и приложения типа Omniverse и RTX‑рендеринга. В Lenovo ThinkSystem NVIDIA L40 guide указано, что RT Core performance составляет 209 TFLOPS, что подчёркивает потенциал L40 в задачах рейтрейсинга. Программные спецификации в L40 Datasheet также указывают поддержку SR‑IOV (до 32 виртуальных функций), различные режимы BAR‑пространства (BAR0: 16 MiB, BAR1: до 64 GiB в Display Off mode), SMBus, SMBPBI и другие функции, важные для интеграции в серверную инфраструктуру.

Максимальная мощность платы (Max board power) для L40 указана в диапазоне около 300 W, что требует использования серверных платформ с достаточным запасом по мощности и эффективной системой охлаждения. В datasheet Cisco NVIDIA L40 GPU и в документе Elmark Automation подчёркивается, что карта относится к классу FHFL dual-slot, рассчитана на установку в серверы и рабочие станции с поддержкой полноразмерных графических адаптеров и может использоваться в составе NVIDIA‑сертифицированных систем для визуализации и ИИ.

Сценарии применения

NVIDIA L40 24GB позиционируется как универсальный GPU для визуализации, ИИ и вычислений в дата‑центрах, сочетая высокую графическую производительность, мощные тензорные ядра и развитые средства рейтрейсинга. Архитектура Ada, GDDR6 с ECC и поддержка современных API делают L40 подходящим для широкого спектра рабочих нагрузок — от виртуальных рабочих станций и рендеринга до инференса и прикладного обучения нейросетей.

• Идеально подходит для обучения нейросетей (Deep Learning) прикладного уровня и дообучения (fine-tuning): тензорные ядра четвёртого поколения, поддержка FP16/BF16/TF32/FP8 и пиковая производительность до сотен TFLOPS позволяют эффективно обучать и дообучать модели компьютерного зрения, рекомендательные системы и модели обработки естественного языка при разумных требованиях к объёму памяти.
• Подходит для инференса LLM моделей и других AI‑сервисов: высокие показатели FP8/INT8/INT4 Tensor TOPS и поддержка sparsity позволяют ускорять вывод крупных языковых моделей и других нейросетевых сервисов, обеспечивая низкие задержки и высокую пропускную способность в серверных приложениях.
• Может использоваться для высокопроизводительных вычислений (HPC) прикладного уровня: наличие большого числа CUDA‑ядер, высокая пропускная способность памяти и поддержка FP32/FP16/BF16 позволяют задействовать L40 в численных задачах, моделировании, анализе данных и научных приложениях, интегрированных в общую инфраструктуру дата‑центра.
• Оптимален для визуализации, рендеринга и виртуальных рабочих станций (vWS): RT‑ядра третьего поколения, DirectX 12 Ultimate, Vulkan, поддержка RTX‑рендеринга и Omniverse позволяют ускорять рендеринг, интерактивную визуализацию, 3D‑дизайн, CAD/CAE и виртуальные рабочие места с графическими нагрузками.
• Подходит для потокового видео и виртуального продакшена: высокая FP32/FP16‑производительность, поддержка многодисплейных конфигураций и аппаратное ускорение графики дают возможность использовать L40 для задач стриминга, виртуальных студий и комплексных визуальных сценариев в дата‑центре.

Совместимость

NVIDIA L40 24GB разработан для интеграции в серверные платформы с поддержкой полноразмерных двухслотовых PCIe Gen4 GPU и входит в программу NVIDIA‑Certified Systems, что подтверждает его совместимость с широким спектром OEM‑серверов. В списке NVIDIA‑Certified Systems приведены OEM‑платформы, где L40 и L40S проходят официальное тестирование на совместимость и производительность.

• Ускоритель протестирован на совместимость с серверными платформами: Dell PowerEdge — в разделе NVIDIA‑Certified Systems указаны OVX Certified и другие решения, где используются GPU L40 и L40S на базе серверов Dell/Nutanix, прошедшие сертификацию NVIDIA по производительности и надёжности.
• Проверена работа с серверами и системами HPE: официальная спецификация NVIDIA L40 48GB PCIe Accelerator for HPE перечисляет совместимые модели — HPE ProLiant DL380 Gen10 Plus, HPE ProLiant XL675d Gen10 Plus, HPE ProLiant DL380 Gen11, HPE ProLiant DL380a Gen11, HPE ProLiant DL385 Gen11, HPE ProLiant ML350 Gen11, HPE ProLiant DL320 Gen11 и другие платформы, в которых поддерживаются ускорители L40.
• Ускоритель протестирован на совместимость с серверными платформами Supermicro: в таблице NVIDIA‑Certified Systems указаны OVX Certified и Spectrum‑X Compatible системы Supermicro с поддержкой GPU L40 и L40S, а также конфигурации с сетевыми адаптерами CX7 и коммутаторами B3220, подтверждающие использование L40 в серверных платформах Supermicro.

При интеграции NVIDIA L40 в сервер необходимо учитывать форм‑фактор FHFL dual‑slot (4,4" × 10,5"), требования к PCIe Gen4 x16, максимальную мощность около 300 W и наличие соответствующих разъёмов питания и охлаждения. Документация NVIDIA, Lenovo и HPE указывает требования по размещению карт, минимальные параметры блока питания и особенности компоновки (двухслотовая толщина, высота/длина, ограничения по количеству GPU на узел), что важно для плотных конфигураций и многокарточных систем.

Инфраструктура и программная поддержка

NVIDIA L40 24GB поддерживает стандартный стек программного обеспечения NVIDIA для дата‑центров: CUDA, cuDNN, TensorRT, а также набор SDK для рендеринга, ИИ и визуализации, включая Omniverse, RTX и специализированные библиотеки для нейрографики и цифровых двойников. В продукт‑брифе L40 GPU Accelerator подчёркивается, что L40 интегрируется в платформы NVIDIA AI Enterprise и OVX, поддерживая виртуальные рабочие станции, генеративный ИИ, визуализацию и комбинированные нагрузки в единой инфраструктуре.

Сочетание архитектуры Ada, большого числа CUDA‑, Tensor‑ и RT‑ядер, GDDR6 с ECC, интерфейса PCIe Gen4 x16 и наличия сертификации NVIDIA‑Certified Systems делает NVIDIA L40 24GB универсальным ускорителем для дата‑центров, ориентированных на визуализацию, ИИ, инференс LLM‑моделей и прикладные HPC‑задачи, с гарантированной совместимостью с серверными платформами Dell, HPE, Supermicro и другими OEM‑производителями.