Nvidia BlueField DPU

Основные статьи:

• Процессор
• Центральный процессор

BlueField - линейка DPU (Data Processing Unit, сопроцессор для обработки данных) Nvidia. Изначально BlueField был брендом компании Mellanox, которая в 2019 году стала частью Nvidia.

2021

Интеграция в решения Palo Alto Networks

В июле 2021 года компания Nvidia объявила об интеграции DPU BlueField в решения Palo Alto Networks. Этот шаг позволит разработчику технологий расширить направление, связанное с устройствами обработки данных (DPU, Data Processing Unit), которые появились в портфолио NVIDIA после приобретения Mellanox. Заказчики решений NVIDIA для центров обработки данных смогут значительно повысить производительность виртуальных межсетевых экранов.

NVIDIA BlueField-2 DPU

Согласно анонсу Palo Alto Networks, виртуальный межсетевой экран следующего поколения, который находится в разработке, будет проверять сетевой трафик в пять раз быстрее, по сравнению с решениями, работающими только на CPU, благодаря использованию DPU Nvidia BlueField. Термин DPU был изобретён NVIDIA в 2020 году. DPU уже нашли применение в облачных сервисах, суперкомпьютерах, у многих OEM-производителей и разработчиков программного обеспечения.

Задачи, решаемые DPU, включают ускорение виртуальных сетевых функций ЦОД при одновременной защите и оптимизации сетевого трафика. Аппаратное ускорение компонентов архитектуры дата-центра приобретает фундаментальное значение по мере увеличения нагрузки на ИТ-инфраструктуру ЦОД и сложности приложений. DPU включает в себя выделенные функции-акселлераторы для различных приложений, таких как:

• аппаратное ускорение IPsec, TLS, AES-GCM, Public Key и RegEx для средств безопасности;
• NVMe-oF, RAID и GPUDirect для систем хранения данных;
• RDMA, RoCE, SR-IOV, VXLAN, VirtIO и GPUDirect RDMA для сетевых функций;
• аппаратное ускорение потокового видео и иного чувствительного к задержкам трафика.

NVIDIA BlueField-3 DPU

Такие инфраструктурные нагрузки растут быстрее, чем возможности их обработки, и уже потребляют около 30% ёмкости серверных CPU. DPU имеют специальные аппаратные ускорители, позволяющее более эффективно выполнять эти задачи, освобождая ядра CPU для приложений ЦОД.

DPU обеспечивают виртуализацию и безопасность без снижения производительности физического сервера. Их использование охватывает большой диапазон от облачных вычислений и потоковой передачи мультимедиа до систем хранения данных, периферийных и высокопроизводительных вычислений.Дмитрий Бородачев, DатаРу Облако: Наше преимущество — мультивендорная модель предоставления облачных услуг

CEO NVIDIA Дженсен Хуанг описывает DPU как «одну из основ ЦОД будущего. CPU предназначен для вычислительных операций общего назначения, GPU - для ускорения параллельных вычислений, а DPU для ускорения операций ввода-вывода и обработки данных».

DPU BlueField обеспечивают безопасную и аппаратно-ускоренную инфраструктуру для всех рабочих нагрузок в любой среде: от облачного ЦОД до кластеров пограничных вычислений. DPU гарантирует разгрузку, ускорение и изоляцию спектра сетевых задач, СХД и сервисов кибербезопасности. DPU BlueField сочетают в себе производительные вычисления, программируемость инфраструктуры-на-чипе и высокоскоростные сетевые решения для выполнения самых сложных рабочих нагрузок.

Программирование и настройка DPU осуществляется при помощи подключения существующего программного обеспечения к уже известным высокоуровневым программным интерфейсам (API) устройства. Эти API включены в программный стек DPU под названием NVIDIA DOCA. Он включает драйверы, библиотеки, инструменты, документацию, примеры приложений и среду выполнения для установки, развертывания и оркестраци служб на тысячах DPU установленных в облачном ЦОД.

Муниндер Сингх Самби (Muninder Singh Sambi), старший вице-президент по продуктам в Palo Alto Networks, отмечает, что ускорение межсетевого экрана VM-Series NGFW с помощью DPU обеспечит предприятиям и телекоммуникационным компаниям «гибкость и автоматизацию облака без ущерба для производительности. NVIDIA BlueField хорошо подходит для решений кибербезопасности, работающих в облачных средах.

На рынке решений для ЦОД NVIDIA не планирует останавливаться на ускорении вычислительных и графических задач при помощи графических процессоров GPU. В компании уверены, что она может взять на себя еще большую долю аппаратных и программных средств для решения появившегося класса задач. Этому и должен помочь DPU BlueField. Данный тип процессора также планируется развивать благодаря синергии с возможностями искусственного интеллекта и уменьшению загрузки CPU.

Asus, Dell Technologies, Supermicro и другие OEM-производители представят сертифицированные серверы с DPU BlueField-2 уже в конце 2021 года. Но для успеха серверов с DPU-ускорением NVIDIA необходимо интегрироваться с различными ключевыми в сетевых инфраструктурах программными решениями. Подобная интеграция и улучшение производительности ПО поможет объяснить необходимость инвестиции в DPU, который стоит дороже стандартных сетевых карт. И именно здесь на помощь пришла Palo Alto Networks.

Решения VM-Series NGFW от Palo Alto Networks, по словам NVIDIA, будут программно определять, ту часть сетевого трафика, которая должна проверяться межсетевым экраном, поскольку вплоть до 80% сетевого трафика не представляет интереса или не может быть обработано продвинутыми функциями безопасности межсетевого экрана. Так как функция разделения трафика выполняется с использованием сервиса Intelligent Traffic Overload на базе DPU, то можно значительно уменьшить количество пакетов трафика, отправляемых межсетевому экрану на базе CPU.

Разделение трафика с использованием сервиса Intelligent Traffic Overload на базе NVIDIA BlueField-2 DPU

В результате сервис Intelligent Traffic Overload может увеличить эффективную пропускную полосу межсетевого экрана до 100 Гбит/с с DPU NVIDIA BlueField-2, что в пять раз выше пропускной способности в 16 Гбит/с, которая достижима при использовании обработки исключительно силами центрального процессора сервера. NVIDIA отмечает, что использование DPU также может снизить капитальные затраты на 150% по сравнению с устаревшим подходом.

В Palo Alto Networks сообщили, что решение с DPU-ускорением может «изменить правила игры» для облачных сред.

По мнению экспертов, совместное решение от NVIDIA и Palo Alto Networks, вероятно, будет интересно крупным предприятиям, рабочие нагрузки которых уже в большой степени виртуализированы.

DPU NVIDIA BlueField будут поддерживать более десятка партнерских программных решений, в том числе:

• VMware вместе с Project Monterey открывает возможности DPU более чем 300 000 организациям, которые используют решения VMware благодаря скорости, отказоустойчивости и безопасности.
• Red Hat готовит к выходу комплект разработчика для Red Hat Enterprise Linux и Red Hat OpenShift, которые используются 95% компаний из списка Fortune 500.
• Canonical, в Ubuntu Linux, самой популярной операционной системе среди публичных облаков.
• Check Point Software Technologies применяет DPU в продуктах, которые используют свыше 100 000 организаций по всему миру для предотвращения кибератак.
• Среди других партнеров, ПО которых можно ускорять с помощью DPU, такие компании как Cloudflare, DDN, Excelero, F5, Fortinet, Guardicore, Juniper Networks, NetApp, Vast Data и WekaIO.

Специалисты по анализу рынка в Dell’Oro Group прогнозируют, что количество поставленных «умных» сетевых портов почти удвоится с 4,4 миллиона в 2020 году до 7,4 миллиона к 2025 году.

Готовясь к такому росту, NVIDIA представила продуктовый план по выпуску двух следующих поколений DPU. BlueField-3, поставки которого начнутся в 2022 году, будет снабжаться сетевыми интерфейсами скоростью до 400 Гбит/с и будет выполнять функции аппаратного ускорения, сравнимые по производительности с 300 ядер x86. BlueField-4 обеспечит на порядок большую производительность вкупе с вычислительными технологиями ИИ от NVIDIA.

Серия BlueField-2, вышедшая на рынок в 2021 году, поставляется в различных конфигурациях со скоростями порта от 25 до 200 Гбит/с.

Интеграция с Nvidia Aerial A100 AI-on-5G

28 июня 2021 года компания NVIDIA объявила о расширении поддержки CPU на базе Arm для платформы NVIDIA Aerial A100 AI-on-5G, обеспечивая более широкий выбор решений в экосистеме 5G.

По информации компании, вычислительная платформа NVIDIA Aerial A100 AI-on-5G использует комплект разработки ПО NVIDIA Aerial и будет включать 16 процессоров Arm Cortex-A78 в NVIDIA BlueField-3 A100. Такая автономная конвергентная карта обеспечит доступ к периферийным корпоративным приложениям ИИ через vRAN 5G с у оптимизированной производительностью на Ватт и меньшим временем развертывания. Подробнее здесь.

BlueField-3 A100 можно развернуть как на процессорах x86, так и на Arm. BlueField-3 - это устройство обработки данных следующего поколения, созданное для ИИ и оптимизации вычислений. Оно оптимизировано для подключений 5G, многопользовательских облачных сред и предлагает программно определяемые, аппаратно ускоренные сервисы связи, хранения, безопасности и управления на периферии. Ожидается, что BlueField-3 A100 будет доступен в первой половине 2022 года.

BlueField-3

12 апреля на открытии своей ежегодной конференции GTC NVIDIA анонсировала DPU BlueField-3, который должен стать доступен в 2022 году. Как заявляет разработчик, BlueField-3 станет первой сетевой картой со скоростью передачи 400 Гбит/с на порт через Ethernet и NDR InfiniBand. Кроме того, будут доступны 16 ядер ARM Cortex, которые обеспечат ускорение сетевых вычислений, благодаря специальным аппаратным решениям. NVIDIA заявляет, что подобный чип заменяет около 300 традиционных ядер CPU. Подключение чипа выполняется через PCI Express 5.0, и у него имеется собственная память DDR5.

Полный список анонсов на GTC 2021 доступен здесь.

2020: BlueField-2

В октябре 2020 года Nvidia представила два новых решения: BlueField-2X DPU и BlueField-2 DPU. По сути они представляют собой сетевые карты со скоростным процессором ARM, который берет на себя вычислительную нагрузку, освобождая ресурсы центрального процессор сервера для других задач.

BlueField-2X объединяет на одной печатной плате процессорные ядра Arm, графический ускоритель и сетевой адаптер Mellanox, а BlueField-2 не имеет GPU на борту.