Ethernet-сеть Spectrum-X для искусственного интеллекта с интеграцией Dell, HPE и Lenovo
NVIDIA объявила, что Dell Technologies, Hewlett Packard Enterprise и Lenovo будут первыми интегрировать технологии Ethernet-сетей NVIDIA Spectrum-X для искусственного интеллекта в свои линейки серверов, чтобы помочь предприятиям ускорить нагрузки по генерации искусственного интеллекта.
Разработанный специально для генеративного искусственного интеллекта, Spectrum-X предоставляет предприятиям новый класс сетей Ethernet, способных достигнуть производительности в области сетевого взаимодействия для искусственного интеллекта, превосходящей традиционные предложения Ethernet в 1,6 раз.
Новые системы, представленные тремя ведущими производителями систем, объединяют в себе Spectrum-X с графическими процессорами Tensor Core от NVIDIA, программным обеспечением NVIDIA AI Enterprise и программным обеспечением NVIDIA AI Workbench, предоставляя предприятиям строительные блоки для трансформации своего бизнеса с помощью генеративного искусственного интеллекта.
"Генеративный искусственный интеллект и ускоренные вычисления способствуют смене поколений, поскольку предприятия модернизируют свои центры обработки данных для обслуживания этих рабочих нагрузок", - сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA. «Ускоренная работа в сети является катализатором новой волны систем от ведущих партнеров-производителей серверов NVIDIA, которые ускорят переход к эпохе генеративного искусственного интеллекта».
"Ускоренные вычисления и сетевые технологии являются ключевыми для создания систем, отвечающих требованиям больших языковых моделей и приложений генеративного искусственного интеллекта", - сказал Майкл Делл, председатель правления и генеральный директор Dell Technologies. «Благодаря нашему сотрудничеству Dell Technologies и NVIDIA предоставляют клиентам инфраструктуру и программное обеспечение, необходимые для быстрого и безопасного извлечения интеллекта из их данных."
"Генеративный искусственный интеллект несомненно будет стимулировать инновации в различных отраслях", - сказал Антонио Нери, президент и генеральный директор HPE. "Эти мощные новые приложения потребуют фундаментально другой архитектуры для поддержки разнообразных динамических рабочих нагрузок. Чтобы дать клиентам возможность реализовать весь потенциал генеративного искусственного интеллекта, HPE сотрудничает с NVIDIA для создания систем с необходимой мощностью, эффективностью и масштабируемостью для поддержки этих приложений."
"Генеративный искусственный интеллект способен вызвать беспрецедентные трансформации, но при этом предъявляет беспрецедентные требования к корпоративной инфраструктуре", - сказал Юаньцзин Ян, председатель и генеральный директор Lenovo. "Плотно сотрудничая с NVIDIA, Lenovo создает эффективные, ускоренные системы с необходимой сетевой инфраструктурой, вычислительной мощностью и программным обеспечением для поддержки современных приложений искусственного интеллекта."
Сети, созданные для ускорения искусственного интеллекта
Для максимальной эффективности рабочих нагрузок искусственного интеллекта, Spectrum-X объединяет в себе исключительную производительность Ethernet-коммутатора Spectrum-4, сетевого ускорителя нового класса NVIDIA BlueField-3 SuperNIC для ускорения гипермасштабных рабочих нагрузок искусственного интеллекта, а также программного обеспечения для ускорения. Spectrum-X дополняет BlueField-3 DPU, самую передовую инфраструктурную вычислительную платформу в мире.
Spectrum-4 - это первый в мире Ethernet-коммутатор с пропускной способностью 51 Тб/с для искусственного интеллекта обеспечивающий высокоэффективную пропускную способность данных в масштабе и под нагрузкой, а также минимизирующий перегрузку сети для многопользовательских облачных рабочих нагрузок ИИ. Его интеллектуальная, точно настроенная технология маршрутизации обеспечивает максимальное использование сетевой инфраструктуры в любое время.
Модули SuperNIC BlueField-3 разработаны для масштабных параллельных вычислений с интенсивным использованием сети, обеспечивая сетевое соединение RDMA over Converged Ethernet (RoCE) со скоростью до 400 Гбит/с между серверами графических процессоров, повышая производительность для обучения ИИ и трафика логических выводов в сети «восток-запад» внутри кластера. Они также создают безопасные многопользовательские среды центров обработки данных, обеспечивая детерминированную и изолированную производительность между заданиями арендаторов. Обладая энергоэффективным форм-фактором PCIe половинной высоты и половинной длины, BlueField-3 SuperNIC идеально подходит для серверов корпоративного класса.
Программное обеспечение, обеспечивающее работу Spectrum-X, включает в себя наборы разработки программного обеспечения от NVIDIA, такие как Cumulus Linux, Pure SONiC и NetQ, которые вместе обеспечивают прорыв в производительности этой платформы, а также программную платформу NVIDIA DOCA, находящуюся в центре BlueField.
NVIDIA AI Enterprise предоставляет фреймворки, предварительно обученные модели и инструменты разработки для безопасного, стабильного и поддерживаемого производственного искусственного интеллекта. NVIDIA AI Workbench позволяет разработчикам быстро создавать, тестировать и настраивать предварительно обученные модели генеративного искусственного интеллекта на ПК или рабочей станции, а затем масштабировать их в практически любой центр обработки данных или облако.
Суперкомпьютер NVIDIA Israel-1 на базе Spectrum-X
Spectrum-X также обеспечивает работу суперкомпьютера NVIDIA Israel-1, эталонную архитектуру для систем искусственного интеллекта следующего поколения. Israel-1 - это результат сотрудничества с Dell Technologies, в котором используются серверы Dell PowerEdge XE9680 на базе восьмипроцессорной платформы NVIDIA HGX H100, а также DPU BlueField-3 и SuperNIC с коммутаторами Spectrum-4.
