Графический процессор GPU NVIDIA H800 NVL (4X67A89326)

Графический процессор NVIDIA H800 оснащен тензорными ядрами четвертого поколения и движком Transformer Engine с точностью FP8, что еще больше укрепляет лидирующие позиции NVIDIA на рынке искусственного интеллекта благодаря ускорению обучения в 9 раз и невероятному 30-кратному ускорению вывода на больших языковых моделях. Для приложений высокопроизводительных вычислений (HPC) графические процессоры утраивают количество операций с плавающей запятой в секунду (FLOPS) по сравнению с FP64 и добавляют инструкции динамического программирования (DPX), обеспечивая до 7-кратного повышения производительности.

Особенности

Графический процессор NVIDIA H800 оснащен тензорными ядрами четвертого поколения и движком Transformer Engine с точностью FP8, что еще больше укрепляет лидирующие позиции NVIDIA на рынке искусственного интеллекта благодаря ускорению обучения в 9 раз и невероятному 30-кратному ускорению вывода на больших языковых моделях. Для приложений высокопроизводительных вычислений (HPC) графический процессор утраивает количество операций с плавающей запятой в секунду (FLOPS) в FP64 и добавляет инструкции динамического программирования (DPX) для обеспечения до 7-кратного повышения производительности. Благодаря графическому процессору второго поколения с несколькими экземплярами (MIG), встроенным процессорам NVIDIA confidential computing и системе коммутации NVIDIA NVLink графический процессор NVIDIA H800 надежно ускоряет все рабочие нагрузки для любого центра обработки данных от корпоративного до масштабируемого.

Производительность

Построенный на 80 миллиардах транзисторов с использованием ультрасовременного процесса TSMC 4N, специально разработанного для нужд ускоренных вычислений NVIDIA, H800 является самым передовым чипом в мире, когда-либо созданным. В нем представлены основные достижения в области ускорения искусственного интеллекта, высокопроизводительных вычислений, пропускной способности памяти, межсоединений и коммуникации в масштабе центра обработки данных.

Transformer Engine

Движок Transformer Engine использует программное обеспечение и технологию Hopper Tensor Core, разработанную для ускорения обучения моделей, построенных на основе самого важного в мире конструктора моделей искусственного интеллекта - transformer. Тензорные ядра Hopper могут применять смешанные значения точности FP8 и FP16 для значительного ускорения вычислений искусственного интеллекта для трансформаторов.

NVLink

Коммутационная система NVLink обеспечивает масштабирование ввода-вывода с несколькими графическими процессорами (IO) на нескольких серверах. Система обеспечивает пропускную способность в 9 раз выше, чем InfiniBand HDR на архитектуре NVIDIA Ampere.

DPX

Инструкции DPX от Hopper ускоряют алгоритмы динамического программирования в 40 раз по сравнению с процессорами и в 7 раз по сравнению с графическими процессорами архитектуры NVIDIA Ampere. Это значительно ускоряет диагностику заболеваний, оптимизацию маршрутов в режиме реального времени и графическую аналитику.