ИИ-ускоритель Huawei Atlas 300T A2 32GB HBM

Huawei Atlas 300T A2 32GB HBM — это высокопроизводительный ИИ-ускоритель нового поколения, ориентированный на обучение нейросетей и построение масштабируемых AI-кластеров. Устройство построено на базе процессора Huawei Ascend 910B с архитектурой New Da Vinci и обеспечивает вычислительную мощность до 560 TOPS (INT8), до 280 TFLOPS (FP16) и до 75 TFLOPS (FP32). Оснащённый 32 ГБ памяти HBM с пропускной способностью до 800 ГБ/с, ускоритель эффективно справляется с обучением моделей большого масштаба и обработкой массивных наборов данных.

Форм-фактор Huawei Atlas 300T A2 соответствует стандарту PCIe Gen5 x16 (двухслотовая FHFL-карта) с пассивным охлаждением, что позволяет использовать его в современных серверных платформах с высокой плотностью размещения ускорителей. Дополнительным преимуществом является встроенный сетевой интерфейс 200GE QSFP-DD с поддержкой RoCE v2, обеспечивающий высокоскоростное межузловое взаимодействие при распределённом обучении моделей и работе в кластерах.

Архитектура и ключевые характеристики

Huawei Atlas 300T A2 построен на базе процессора Ascend 910B с архитектурой New Da Vinci, оптимизированной для задач глубокого обучения и высокопроизводительных вычислений. Архитектура обеспечивает высокую плотность вычислений и эффективное использование ресурсов при обучении моделей различной сложности — от классических нейросетей до трансформеров.

Подсистема памяти включает 32 ГБ HBM с пропускной способностью до 800 ГБ/с, что позволяет эффективно обрабатывать большие объёмы данных и ускорять обучение моделей. Высокая пропускная способность памяти минимизирует узкие места при работе с параметрами модели и батчами данных.

Интерфейс PCIe Gen5 x16 обеспечивает высокую скорость обмена данными с хост-системой, а встроенный сетевой порт 200GE QSFP-DD с поддержкой RoCE v2 позволяет организовать низколатентное взаимодействие между узлами кластера без необходимости установки дополнительных сетевых адаптеров.

Карта выполнена в формате full-height, full-length, dual-slot с пассивным охлаждением и теплопакетом до 300 Вт, что делает её подходящей для плотных серверных конфигураций при наличии эффективной системы охлаждения.

Дополнительно ускоритель оснащён медиаблоком с поддержкой аппаратного кодирования и декодирования H.264/H.265, что позволяет использовать его в сценариях, где обучение моделей связано с обработкой видеоданных.

Сценарии применения

Huawei Atlas 300T A2 32GB HBM предназначен для задач обучения нейросетей и построения масштабируемых ИИ-инфраструктур, где важны высокая производительность, скорость обмена данными и эффективность распределённых вычислений.

• Обучение моделей глубокого обучения (Deep Learning), включая трансформеры и мультимодальные модели.
• Построение распределённых AI-кластеров с использованием 200GE RoCE v2 для высокоскоростного межузлового взаимодействия.
• Обработка больших наборов данных (Big Data) в научных и коммерческих задачах.
• Обучение моделей компьютерного зрения и видеоаналитики с использованием встроенного медиаблока.
• Разработка и тестирование ИИ-решений в корпоративных и исследовательских средах.

Совместимость

Huawei Atlas 300T A2 разработан для современных серверных платформ с поддержкой PCIe Gen5 и высокоскоростных сетевых интерфейсов, а также рассчитан на интеграцию в ИИ-кластеры и дата-центры.

• Совместимость с серверными платформами Huawei и экосистемой Ascend для построения AI-инфраструктуры.
• Поддержка серверов с PCIe Gen5 x16 при соблюдении требований по энергопотреблению (до 300 Вт) и охлаждению.
• Интеграция в кластеры с использованием встроенного 200GE RoCE v2 без необходимости дополнительных сетевых адаптеров.

При проектировании систем необходимо учитывать требования к охлаждению, сетевой инфраструктуре и плотности размещения ускорителей для обеспечения стабильной и эффективной работы.

Инфраструктура и программная поддержка

Huawei Atlas 300T A2 интегрируется в программную экосистему Huawei Ascend, включая инструменты для разработки, обучения и оптимизации ИИ-моделей. Поддержка современных фреймворков и библиотек позволяет эффективно использовать ускоритель в задачах обучения и анализа данных.

Благодаря сочетанию архитектуры Ascend 910B, памяти HBM с высокой пропускной способностью, интерфейса PCIe Gen5 и встроенного 200GE RoCE v2, Huawei Atlas 300T A2 32GB HBM является мощным решением для построения современных AI-кластеров, обеспечивая высокую производительность, масштабируемость и эффективность при работе с большими моделями и данными.