Соответствие современным требованиям центров обработки данных

Выход сервера R770 совпал с ростом требований к центрам обработки данных. Нагрузки становятся разнообразнее и требовательнее к ресурсам. Объёмы данных растут, что увеличивает спрос на аналитику и стабильные базы данных. Искусственный интеллект перестал быть нишевым решением — теперь это ключевой инструмент бизнеса, которому нужны высокие вычислительные мощности и специализированные ускорители.

Одновременно усиливается внимание к энергоэффективности и снижению совокупной стоимости владения. Всё больше компаний выбирают открытые стандарты — это упрощает интеграцию, повышает совместимость и уменьшает зависимость от конкретных вендоров. Сервер R770 с новыми процессорами и поддержкой стандарта OCP DC MHS создан для таких задач.

Процессоры Intel Xeon 6 с ядрами P-Core

Сервер Dell PowerEdge R770 оснащается процессорами Intel Xeon 6 — серий 6700 и 6500. Эти чипы объединяют производительные и энергоэффективные ядра и работают на платформе Socket E2 (LGA4710-2). В обзоре рассматриваются модели серии P.

Intel использует модульную архитектуру: I/O-модули объединяются с одним или двумя вычислительными модулями. Это позволяет варьировать конфигурации — от моделей с двумя вычислительными модулями и 86 производительными ядрами (XCC) до версий с одним модулем — 48 ядер (HCC) или 16 ядер (LCC).

В отличие от предыдущих поколений Sapphire и Emerald Rapids, все процессоры Xeon 6 оснащены встроенными аппаратными ускорителями. Среди них: Intel QuickAssist Technology для криптографии и сжатия, Intel Data Streaming Accelerator для ускоренной передачи данных, Intel In-Memory Analytics Accelerator для работы с базами данных и аналитикой, а также Intel Dynamic Load Balancer для оптимизации сетевой обработки.

Увеличилась пропускная способность памяти и I/O. Xeon 6700/6500 с P-ядрами поддерживают 8-канальную память DDR5 и модули MRDIMM со скоростью до 8800 MT/с. Для ввода-вывода доступны PCIe 5.0 и CXL 2.0. В двухсокетной конфигурации доступно до 88 линий PCIe на сокет — всего до 176 линий.

Несмотря на различия между ядрами P и E, Xeon 6 использует единый набор инструкций, BIOS, драйверов, поддерживает одни и те же ОС и функции надёжности (RAS). Это упрощает внедрение. Варианты с P-ядрами подходят для задач с высокими требованиями к производительности на ядро, ИИ-ускорению, пропускной способности памяти и I/O — например, для баз данных, HPC-задач, аналитики и ИИ-приложений.

Спецификация Dell PowerEdge R770

Dell PowerEdge R770 использует модульность с OCP DC MHS

Dell PowerEdge R770 — это шаг вперёд в дизайне и архитектуре. Сервер построен по стандарту модульного оборудования Open Compute Project (OCP DC MHS), который упрощает компоновку и модернизацию компонентов.

Сервер R770 сохраняет традиционную гибкость серии R7x0 и предлагает разные конфигурации под задачи заказчика. Впервые в линейке можно выбрать размещение портов ввода-вывода: сзади (Rear I/O) или спереди (Front I/O) — со стороны холодного коридора. Это упрощает обслуживание и даёт больше свободы при планировке дата-центра. Варианты хранения также разнообразны. Доступны как вычислительные узлы без локального хранилища, так и конфигурации с высокой плотностью — до 40 накопителей E3.S для задач с большими объёмами данных.

Для задач ИИ и высокопроизводительных вычислений (HPC) сервер R770 поддерживает расширение с помощью до шести плат PCIe Gen 5 x16 формата Full-Height, Full-Length (FHFL). Возможна установка до двух двухслотовых GPU. Также сервер оснащён мезонинными слотами стандарта OCP 3.0 для подключения сетевых карт — формата x8 или x16, в зависимости от конфигурации.

Dell улучшила конструкцию для упрощения обслуживания и повышения надёжности. Обновлён модуль загрузки Boot Optimized Storage Solution (BOSS): вместо подключения через кабели к райзеру он теперь выполнен в виде карты стандарта OCP и подключается напрямую к материнской плате. Это исключает кабели, повышает надёжность и упрощает монтаж. Новый BOSS использует быстрые NVMe-накопители M.2 и оснащён радиаторами для эффективного охлаждения. Также в R770 традиционные перемычки заменены на DIP-переключатели — ими проще пользоваться при, например, очистке NVRAM.

Главное архитектурное обновление в R770 — полная реализация стандарта OCP DC MHS. Ранее Dell уже использовала отдельные элементы OCP, например, сетевые адаптеры формата OCP 3.0. В R770 подход расширен: ключевые компоненты теперь соответствуют спецификациям OCP. Материнская плата (Host Processor Module, HPM) включает слоты райзеров в формате разъёмов M-XIO — это упрощает установку карт расширения и делает систему гибче. Модуль удалённого управления iDRAC теперь также выполнен в формате OCP DC-SCM (Server Control Module).

В сервере R770 появился новый разъём питания PICPWR для подключения периферии — например, GPU и бекплейнов. Он упрощает подачу питания и позволяет отслеживать энергопотребление встроенными средствами.

Глубокая интеграция стандарта унифицирует интерфейсы и форм-факторы подсистем. Dell рекомендует использовать только проверенные компоненты для гарантированной совместимости и поддержки. Однако благодаря стандартизации узлы становятся удобнее в обслуживании и потенциально взаимозаменяемыми между совместимыми системами.

Управление и iDRAC

Сервер Dell PowerEdge R770 использует новое поколение платформы управления — iDRAC 10. Она развивает возможности iDRAC 9 и интегрирована с модулем Data Center Secure Control Module (DC-SCM). Такое решение упрощает обновление прошивок и настройку системы, обеспечивая стабильную работу в масштабах всего дата-центра. iDRAC 10 поддерживает расширенные функции автоматизации и мониторинга, помогая администраторам эффективно управлять крупной инфраструктурой без потерь в производительности и надёжности.

Безопасность — ключевой элемент управления в R770. Dell реализовала проверку компонентов до и во время загрузки. Технология Root of Trust на аппаратном уровне обеспечивает криптографическую проверку всех прошивок — включая BIOS и iDRAC — до их запуска. Это защищает систему от вредоносного ПО и атак через цепочку поставок. Также в R770 применены квантово-устойчивые механизмы загрузки, рассчитанные на защиту от новых криптографических угроз.

В сервере R770 реализована цепочка доверия, которая обеспечивает безопасность поставок. Каждый аппаратный компонент проходит проверку с использованием криптографических подписей, встроенных на этапе производства. Это гарантирует использование только авторизованных компонентов и программного обеспечения, снижая риск подделок и несанкционированных изменений.

Компоненты для создания AI-фабрик

Сервер R770 поставляется в разных корпусах и поддерживает множество вариантов GPU. Это делает его универсальным решением для AI-нагрузок. Гибкость конфигураций, мощное хранилище и развитые сетевые возможности позволяют использовать R770 в инфраструктуре так называемых AI-фабрик — систем для обучения, разработки и масштабного внедрения моделей искусственного интеллекта. Такие фабрики важны для создания автономного транспорта, робототехники и других систем, обрабатывающих большие объёмы данных.

Для разработки автономных автомобилей и роботов требуются обучающие выборки, отражающие реальные условия. В этом направлении помогает платформа NVIDIA Cosmos NIM — набор инструментов для ускорения создания и развёртывания физических AI-систем, включая фундаментальные модели окружающего мира (World Foundational Models).

Понимание фундаментальных моделей мира

Фундаментальные модели мира (World Foundation Models, WFMs) — это нейросети, которые моделируют физическую реальность и предсказывают результаты на основе разных входных данных. В отличие от узкоспециализированных ИИ-моделей, WFMs учитывают законы физики и пространственные характеристики. Они могут, например, создавать видеоконтент по тексту или изображениям, точно отражая движение, силу и взаимосвязи объектов.

NVIDIA Cosmos NIMs: шаг к фундаментальным моделям мира

Платформа NVIDIA Cosmos NIMs помогает создавать фундаментальные модели мира. Она позволяет генерировать синтетические обучающие данные и масштабировать объёмы информации для обучения. В рамках проекта была развёрнута модель Cosmos Predict — универсальная система, которая по текстовым или видео-подсказкам создаёт состояние окружающей среды и синтезирует движение, предсказывая последовательные кадры.

Сервер R770 поддерживает высокопроизводительные GPU, включая NVIDIA H100, и оснащён мощным хранилищем и сетевыми интерфейсами. Эти характеристики делают его подходящим для внедрения AI-решений в корпоративной и исследовательской среде.

Используя R770, компании могут эффективно обучать и развёртывать AI-модели вроде Cosmos NIM, ускоряя разработку автономного транспорта и робототехники. Производительность, масштабируемость и гибкость сервера позволяют работать с большими массивами данных и выполнять широкий спектр задач, связанных с искусственным интеллектом.

GPU Direct Storage

GPU Direct Storage (GDS) — это технология прямой передачи данных между накопителями и видеокартами, без участия CPU и системной памяти. В традиционной схеме данные проходят через память CPU, что добавляет задержки и создаёт нагрузку на процессор. GDS позволяет накопителям напрямую обмениваться данными с памятью GPU, снижая задержки и разгружая CPU.

Мы протестировали производительность GDSIO на системе из 16 накопителей, поэтапно увеличивая их число. Цель — оценить, как масштабируется пропускная способность хранилища и насколько эффективно оно нагружает GPU через PCIe Gen 5.

При чтении GDSIO в сервере R770 суммарная скорость чтения быстро растёт от одного до четырёх накопителей и достигает ~50,2 ГиБ/с. Этого достаточно, чтобы полностью загрузить интерфейс PCIe Gen 5 x16. При подключении пяти и более накопителей рост производительности прекращается — канал насыщается. Средняя скорость чтения на накопитель остаётся стабильной до четырёх устройств, а затем снижается: пропускная способность PCIe делится между большим числом накопителей, и каждому достаётся меньше.

В отличие от чтения, скорость записи у накопителей оказалась ниже. Чтобы достичь 46,7 ГиБ/с, потребовалось задействовать все 16 устройств. Средняя скорость записи на накопитель при этом почти не менялась. В тесте использовались SSD KIOXIA CD8 с ограниченной скоростью записи, поэтому модели с большей ёмкостью или другие накопители с поддержкой PCIe Gen5 могут показать более высокую производительность.

Тестирование производительности Dell PowerEdge R770

Сервер R770 — флагман основной линейки Dell, рассчитанный на широкий спектр задач. Мы провели серию тестов, чтобы оценить его работу в разных сценариях. Для сравнения производительности ядер E-core и P-core в некоторых тестах использовалась также система Lenovo ThinkSystem SR630 V4.

Конфигурация тестовой системы:

• Процессоры: 2× Intel Xeon 6787P (по 86 ядер каждый)
• Оперативная память: 32× Micron по 64 ГБ, двухранговая DDR5, 6400 MT/с; общий объём — 2 ТБ
• Блоки питания: 2× Delta мощностью 1500 Вт
• Графические процессоры: 1× NVIDIA H100 (для теста TGI), 1× NVIDIA L4 (для остальных тестов)
• Сетевая карта: DELL BRCM 4P 25G SFP 57504S OCP NIC
• BOSS-карта: BOSS-N1 DC-MHS; диски 0 и 1 — SK hynix 480 ГБ, Dell NVMe ISE PE9010 RI M.2
• Основные накопители: слоты 0–5 в первом бекплейне — Samsung 6,4 ТБ, Dell NVMe PM1745 MU E3.S 6,4 ТБ

Производительность при AI-нагрузках

Бенчмарк Text Generation Inference

Text Generation Inference (TGI) — это сервер для инференса больших языковых моделей (LLM), разработанный Hugging Face. Он оптимизирован для развёртывания LLM в производственной среде. TGI поддерживает open-source модели и включает функции тензорного параллелизма, потоковую передачу токенов и непрерывную пакетную обработку — всё это повышает производительность и эффективность.

Функция бенчмаркинга в TGI позволяет оценить производительность в разных конфигурациях и под разными нагрузками. Она учитывает особенности реальной эксплуатации LLM, что даёт точную картину эффективности модели в производственной среде.

Генерация текста с помощью LLM состоит из двух этапов: prefill и decode.

На этапе prefill модель обрабатывает входной запрос и формирует промежуточные представления. Этот шаг требует больших вычислительных ресурсов, так как выполняется однократный прямой проход всего входного текста через модель.

В ходе prefill запрос токенизируется и преобразуется в формат, понятный модели. Затем создаётся KV-кеш — структура, хранящая информацию о входных токенах и необходимая для дальнейшей генерации.

На этапе decode модель генерирует выходной текст по одному токену, используя данные из KV-кеша, сформированного на предыдущем шаге. Это позволяет поддерживать логическую связность и учитывать контекст при генерации.

Этап Prefill

С увеличением размера пакета (batch size) с 1 до 32 задержка возрастает у всех трёх моделей. У DeepSeek-R1-Distill-Qwen-32B она растёт с 29,97 до 76,95 мс. У GEMMA-3-27B-IT — с 51,84 до 79,58 мс, у Qwen/QwQ-32B — с 29,90 до 76,30 мс.

При этом скорость генерации токенов существенно увеличивается. При batch size = 1 она составляет от 192,95 до 334,46 токенов в секунду. При batch size = 32 показатели достигают 4158,67 для DeepSeek-R1-Distill-Qwen-32B, 4021,40 для GEMMA-3-27B-IT и 4194,13 для Qwen/QwQ-32B.

Этап Decode

На этапе decode задержка остаётся стабильной при увеличении batch size. У модели DeepSeek-R1-Distill-Qwen-32B она меняется незначительно — от 27,14 до 29,52 мс при росте размера пакета от 2 до 32.

Скорость генерации токенов также увеличивается, но менее резко, чем на этапе prefill. При batch size = 1 она составляет 36–37 токенов в секунду для моделей DeepSeek-R1-Distill-Qwen-32B и Qwen/QwQ-32B, и 33,96 — для GEMMA-3-27B-IT. При batch size = 32 показатели достигают 1083,83, 873,39 и 1084,89 токенов в секунду соответственно.

Это ожидаемо: на этапе prefill модель рассчитывает скрытые состояния и KV-кеши для всего запроса. Благодаря этому возможно эффективно загрузить GPU за счёт одновременной обработки крупных пакетов. После prefill начинается генерация — модель создаёт новые токены по одному, используя предыдущий токен и уже сформированные кеши. Этот процесс последовательный, пакет обычно небольшой, и ресурсы GPU используются не полностью.

Бенчмарк Procyon AI Computer Vision

Бенчмарк Procyon AI Computer Vision оценивает производительность инференса в задачах машинного зрения. Он тестирует работу моделей на CPU, GPU и специализированных ускорителях. Поддерживаются разные движки инференса — TensorRT, OpenVINO, SNPE, Windows ML и Core ML. Тест показывает не только скорость, но и совместимость моделей и уровень оптимизации.

Результаты демонстрируют высокую эффективность: MobileNet V3 — 20,64 мс, ResNet 50 — 22,42 мс. Inception V4 и DeepLab справились с более сложными задачами за 65,23 и 41,37 мс. YOLO V3 показала 37,80 мс и подходит для работы в реальном времени. Модель суперразрешения REAL-ESRGAN, требующая значительных ресурсов, выдала 1 159,22 мс. Общая оценка производительности — 81 балл.

Hammer DB TPROC-C

Мы протестировали четыре open-source СУБД: MariaDB 11.4.4, MySQL 8.4.4, MySQL 5.7.44 и PostgreSQL 17.2. Для оценки использовался бенчмарк HammerDB TPROC-C, моделирующий OLTP-нагрузку на 500 складов.

Лучшие результаты показала MariaDB, особенно в двухсокетной конфигурации — она продемонстрировала высокую масштабируемость и максимальную пропускную способность. MySQL 8.4.4 значительно обошла устаревшую версию 5.7.44, что подтверждает рост производительности в новых релизах. PostgreSQL 17.2 работала стабильно, но уступила MariaDB и MySQL 8.4.4. MariaDB достигла 3,15 млн TPM на одном сокете и 5,8 млн TPM в двухсокетной системе — это лучшие показатели среди всех протестированных СУБД.

Несмотря на мощную конфигурацию R770 с 86 ядрами на процессор (включая производительные и энергоэффективные), ни одна из протестированных СУБД не показала заметного прироста при распределении нагрузки на оба сокета. Это типично для open-source СУБД, которым выгоднее работать на одном сокете — из-за лучшей локальности и меньших задержек при доступе к памяти.

С учётом этого R770 больше подходит для запуска нескольких экземпляров баз данных в виртуализированной среде, чем для масштабирования одного инстанса. Архитектура сервера позволяет эффективно распределять смешанные СУБД-нагрузки, используя оба типа ядер для стабильной производительности при работе множества баз одновременно.

7-Zip

Бенчмарк утилиты 7-Zip оценивает производительность процессора и памяти при сжатии и распаковке данных. Он показывает, насколько эффективно система справляется с ресурсоёмкими задачами обработки.

В тесте на сжатие сервер Dell показал результат 266,425 GIPS — выше, чем у Lenovo (224,313 GIPS), при меньшей загрузке CPU. При распаковке лидировала Lenovo с результатом 288,457 GIPS против 256,154 GIPS у Dell, но с чуть большей загрузкой процессора. Итоговый рейтинг Dell — 261,290 GIPS, что говорит о более высокой общей эффективности при обеих операциях.

y-cruncher

y-cruncher — это инструмент для бенчмаркинга и стресс-тестирования, появившийся в 2009 году. Он использует многопоточность и масштабируется на большое количество ядер. Программа вычисляет число Пи и другие математические константы до триллионов знаков. Чем меньше время выполнения — тем выше производительность. Тест особенно полезен для оценки многоядерных систем и сравнения одно- и двухсокетных архитектур.

Результаты y-cruncher показывают заметную разницу между Dell PowerEdge R770 с процессорами на базе P-ядер и Lenovo ThinkSystem SR630 V4 с E-ядрами. С ростом объёма расчётов разрыв в производительности увеличивается. Цель теста — показать особенности архитектур под нагрузкой, а не определить абсолютного победителя.

При вычислении 1 миллиарда знаков Пи Dell справился за 2,753 секунды, Lenovo — за 5,997 секунды. При 10 миллиардах — 34,873 и 81,046 секунды соответственно. При 50 миллиардах Dell завершил задачу за 221,255 секунды, а Lenovo — за 476,826 секунды. Разница составила 53% в пользу Dell.

На отметке 100 миллиардов знаков система Lenovo не смогла завершить расчёты из-за лимита в 512 ГБ ОЗУ. Сервер Dell с 2 ТБ памяти успешно справился с задачей, выполнив вычисление за 491,737 секунды.

Blender OptiX

Blender — open-source приложение для 3D-моделирования. В тестах использовался Blender Benchmark, где производительность измеряется в сэмплах в минуту: чем выше значение, тем быстрее система.

Сервер Dell PowerEdge R770 показал преимущество в CPU-рендеринге. В сцене CPU Monster — 1706,002 сэмпла/мин против 1432,09 у Lenovo (разница 19%). В сцене CPU Junkshop — 1169,370 против 914,75 (28%). В сцене CPU Classroom — 791,475 против 656,68 (20%). Система Lenovo не участвовала в GPU-тестах из-за отсутствия видеокарты. Dell с NVIDIA L4 показал: GPU Monster — 1895,71 сэмпла/мин, GPU Junkshop — 950,42, GPU Classroom — 968,43.

Cinebench R23

Cinebench R23 оценивает производительность процессора на базе движка Cinema 4D. Тест включает рендеринг 3D-сцены и измеряет как многопоточную, так и однопоточную производительность, что позволяет оценить работу CPU в задачах 3D-рендеринга.

В многопоточном тесте (CPU Multi-Core) Lenovo ThinkSystem SR630 V4 превзошёл Dell PowerEdge R770. Lenovo с двумя процессорами Intel Xeon 6780E (по 144 ядра) набрал 99 266 баллов. Dell с двумя Xeon 6787P (по 86 ядер) показал 74 710. Разница связана с общим количеством ядер — 288 против 172.

В однопоточном тесте (CPU Single-Core) Dell оказался быстрее: 1272 балла против 894 у Lenovo. Это говорит о более высокой производительности одного ядра у Dell, несмотря на меньшее общее число ядер.

Cinebench 2024

Cinebench 2024 дополняет версию R23, добавляя тестирование GPU. Теперь помимо CPU-тестов измеряется производительность графического процессора в задачах рендеринга.

В GPU-тесте Dell PowerEdge R770 набрал 12 996 баллов, показав хорошую эффективность в задачах с ускорением на графическом процессоре. У Lenovo ThinkSystem SR630 V4 дискретный GPU отсутствует, поэтому результат не зафиксирован.

В CPU Multi-Core Lenovo немного опередил Dell — 2884 против 2831 балла. В однопоточном тесте Dell снова показал преимущество: 71 балл против 53 у Lenovo. Это подтверждает высокую производительность одного ядра у Dell, несмотря на меньшее число ядер.

Geekbench 6

Geekbench 6 — кроссплатформенный тест, оценивающий общую производительность системы. Результаты можно сравнивать через Geekbench Browser.

В тесте CPU Single-Core Dell PowerEdge R770 набрал 1797 баллов против 1173 у Lenovo ThinkSystem SR630 V4 — разница 53% в пользу Dell. В CPU Multi-Core Dell также лидирует: 15 880 против 13 868 баллов, что даёт преимущество в 14%. Эти результаты отражают высокую эффективность процессоров Intel Xeon 6787P, особенно в многопоточных задачах.

В тесте GPU OpenCL Dell набрал 148 730 баллов благодаря видеокарте NVIDIA L4. Система Lenovo без дискретного GPU в тесте не участвовала.

Blackmagic RAW Speed Test

Blackmagic RAW Speed Test оценивает, насколько система справляется с воспроизведением и редактированием видео в кодеке Blackmagic RAW. Тест измеряет частоту кадров при декодировании видео с использованием CPU и GPU.

В CPU-тесте Dell PowerEdge R770 достиг 141 FPS, опередив Lenovo ThinkSystem SR630 V4 с результатом 120 FPS. Это говорит о более высокой эффективности Dell при обработке видео на центральном процессоре.

В GPU-тесте Dell показал 157 FPS благодаря установленной видеокарте NVIDIA. У Lenovo тест не проводился из-за отсутствия дискретного GPU.

Blackmagic Disk Speed Test

Blackmagic Disk Speed Test измеряет скорость чтения и записи накопителей. Он помогает оценить, подходит ли система хранения для работы с видео в высоком разрешении — например, 4K или 8K.

Сервер Dell PowerEdge R770 с BOSS-картой и зеркальным массивом из SSD SK hynix (480 ГБ, Dell NVMe) показал следующие результаты:

Скорость чтения — 3010,3 МБ/с
Скорость записи — 976,3 МБ/с

Эти значения подтверждают, что хранилище подходит для задач видеомонтажа и обработки высококачественного контента.

Примеры серверов

Сервер Dell PowerEdge R770 CSP Edition

Артикул: PowerEdgeR770CSPEdition

Облачный сервер Dell PowerEdge R770 CSP Edition создан для масштабирования рабочих нагрузок и предназначен для поставщиков облачных услуг (CSP).  Сервер разработан с учетом оптимальной энергоэффективности и экономичности в больших и разнообразных средах. Система идеальна для обеспечения превосходной производительности, экономичности и управляемости, что делает ёё надежным решением для поставщиков облачных услуг, стремящихся оптимизировать работу своих центров обработки данных и эффективно масштабировать инфраструктуру.

Наличие по запросу

Уточнить ценуЗапрос цены

Заключение

Dell PowerEdge R770 выделяется за счёт внедрения стандарта Open Compute Project — Data Center Modular Hardware System (OCP DC MHS) и использования современных аппаратных решений. Интеграция OCP DC MHS повышает модульность, упрощает обслуживание и снижает затраты благодаря стандартизации. Эти принципы реализованы в системе — от iDRAC в формате OCP DC-SCM до новой архитектуры портов.

Сервер поддерживает до 40 накопителей E3.S в 2U-корпусе, что делает его подходящим для задач с высокой нагрузкой на хранилище. Дополнительную гибкость обеспечивает исполнение с фронтальными портами (Front I/O), которое упрощает обслуживание со стороны холодного коридора — важно для разных типов дата-центров.

Поддержка GPU и новых процессоров Intel Xeon 6 с производительными ядрами (P-core) делает PowerEdge R770 универсальной платформой. Он подходит для AI, HPC и традиционных корпоративных задач. Современная аппаратная база, модульная архитектура и встроенные средства безопасности делают R770 надёжным выбором для современных ЦОД.

Источник: StorageReview