Перейти к содержанию
Публикация AiManual

Управление кластером DGX Spark: выделенные порты или общий fabric-интерфейс?

Сравниваем схемы подключения 4 узлов DGX Spark к MikroTik: выделенные 10Gb порты управления или общий fabric. Изоляция трафика, производительность, отказоустойч

Коротко

Что будет в материале

  1. 01

    Почему управление кластером DGX Spark требует особого внимания к сети

  2. 02

    Два подхода к подключению: сравнительный анализ

  3. 03

    Влияние на производительность: что говорят цифры

  4. 04

    Отказоустойчивость: как не потерять управление кластером

При подключении четырёх узлов DGX Spark к коммутатору MikroTik выделяйте отдельные 10Gb порты для управления кластером. Это обеспечивает изоляцию трафика управления и данных, повышает отказоустойчивость и упрощает администрирование. Использование общего fabric-интерфейса с разными IP допустимо для тестовых сред, но в production-конфигурациях создаёт риски потери контроля над узлами при пиковых нагрузках на data-канал.

Неправильный выбор топологии приводит к двум проблемам: команды оркестрации (SSH, мониторинг, перезапуск задач) конкурируют с межузловыми обменами, а диагностика сбоев усложняется. В этом разборе - сравнение схем, влияние на производительность и готовая конфигурация для MikroTik.

Почему управление кластером DGX Spark требует особого внимания к сети

DGX Spark генерирует два принципиально разных типа трафика. Data-трафик - это межузловые обмены при распределённом инференсе: передача весов, градиентов, KV-кэша. Его объёмы измеряются гигабитами в секунду, а пиковые нагрузки возникают при all-reduce операциях. Управляющий трафик - SSH-сессии, телеметрия, команды оркестрации - требует минимальной задержки и гарантированной доставки, но его объём редко превышает десятки мегабит.

Смешивание этих потоков на одном физическом интерфейсе без изоляции - основной источник проблем. Когда fabric-канал насыщен данными, управляющие пакеты попадают в очередь и могут быть отброшены. Результат: таймауты SSH, ложные срабатывания мониторинга, невозможность аварийно остановить задачу. В типовой конфигурации с четырьмя узлами на MikroTik вопрос стоит так: использовать ли отдельные физические порты для управления или обойтись fabric-интерфейсами с разными IP.

Практика HPC-кластеров даёт однозначный ответ. Выделенная сеть управления (management network) - обязательный компонент архитектуры. Она не зависит от состояния data-каналов и продолжает работать даже при деградации fabric. Для DGX Spark этот принцип критичен, потому что unified memory архитектура делает каждый узел чувствительным к задержкам при обращении к памяти соседнего узла.

Два подхода к подключению: сравнительный анализ

Схема 1: Выделенные 10Gb порты управления

Каждый узел DGX Spark подключается к коммутатору двумя физическими кабелями. Первый - fabric-интерфейс (100GbE или 200GbE) для данных. Второй - выделенный 10Gb порт для управления. На MikroTik управляющие порты объединяются в отдельный VLAN, изолированный от data-трафика на уровне L2.

Плюсы схемы:

  • Полная изоляция: управляющий трафик не конкурирует с данными, задержка предсказуема.
  • Независимость: при насыщении fabric-канала управление остаётся доступным.
  • Простая диагностика: проблемы сразу локализуются - либо data-сеть, либо management.
  • Безопасность: управляющую сеть можно физически изолировать от внешнего доступа.

Минусы:

  • Требуется вдвое больше портов на коммутаторе (8 вместо 4 для четырёх узлов).
  • Дополнительные кабели и трансиверы увеличивают стоимость.

Для кластера из четырёх DGX Spark на MikroTik CRS317-1G-16S+ эта схема занимает 8 портов SFP+. Порты 1-4 отдаются под fabric, порты 5-8 - под управление. Остаётся 8 свободных портов для расширения.

Схема 2: Общий fabric-интерфейс с отдельными IP

Один физический кабель на узел. Fabric-интерфейс используется и для данных, и для управления - на нём настраиваются два IP-адреса или два VLAN на одном порту (trunk). MikroTik получает trunk-порт с VLAN 10 (данные) и VLAN 20 (управление).

Плюсы:

  • Экономия портов: 4 порта вместо 8.
  • Меньше кабелей, проще физическая коммутация.

Минусы:

  • Конкуренция трафика: при пиковой загрузке data-канала управляющие пакеты задерживаются или теряются.
  • Сложная диагностика: потеря управления может быть вызвана как проблемой сети, так и насыщением канала данными.
  • Риск полной потери связи: отказ единственного порта на узле обрывает и данные, и управление.
  • Необходимость тонкой настройки QoS для приоритезации управляющего трафика.

Схема с общим интерфейсом работает в тестовых кластерах, где нет жёстких требований к доступности. Для продакшена риски перевешивают экономию на портах.

Влияние на производительность: что говорят цифры

Fabric-интерфейсы DGX Spark работают на скоростях 100GbE или 200GbE. Управляющий трафик даже в худшем случае не превышает 100 Мбит/с. При использовании общего 100GbE порта доля управляющего трафика составляет менее 0.1% полосы - влияние на пропускную способность данных пренебрежимо мало.

Проблема не в объёме, а в характере трафика. Distributed training и инференс генерируют пачки пакетов (bursts), которые моментально заполняют буферы коммутатора. Управляющие пакеты, попавшие в такую пачку, ждут освобождения буфера. Задержка в 50-100 мс для SSH-сессии незаметна, но для команд оркестрации, которые ожидают ответа за 5-10 мс, это критично.

При использовании 10GbE для данных (если fabric тоже 10Gb) конкуренция становится существенной. All-reduce операция на четырёх узлах может занять 70-80% полосы, оставляя управляющему трафику лишь остатки. Выделенные порты управления гарантируют, что 10Gb канал всегда доступен для команд оркестрации с предсказуемой задержкой менее 1 мс.

Изоляция трафика управления - best practice для HPC-кластеров, подтверждённая архитектурными рекомендациями NVIDIA для DGX-систем. В тестах производительности GLM-5.2 на 8× GB10 мы видели, как межузловые обмены создают пиковые нагрузки на fabric - в такие моменты изоляция управления критична.

Отказоустойчивость: как не потерять управление кластером

Потеря управления кластером означает невозможность остановить задачи, собрать диагностику или перезагрузить узел. В схеме с общим fabric-интерфейсом отказ единственного порта на узле DGX Spark обрывает и данные, и управление - вы теряете узел полностью до физического вмешательства.

Схема с выделенными портами управления позволяет добавить резервирование. На каждом узле можно задействовать второй управляющий порт, объединив их в LAG (Link Aggregation) или настроив active-backup. При отказе одного порта или кабеля управление сохраняется через резервный канал. Минимальная конфигурация для production: один выделенный порт управления на узел. Рекомендуемая: два порта управления в режиме active-backup.

На MikroTik резервирование настраивается через bonding интерфейс с режимом active-backup. Два порта коммутатора объединяются в один логический, при отказе активного порта трафик автоматически переключается на резервный за время менее 1 секунды. Это не влияет на установленные SSH-сессии, так как IP-адрес остаётся неизменным.

Аналогичные проблемы с RPC-связью мы разбирали в эксперименте с кластеризацией AMD Ryzen AI Halo - там наивное удвоение модулей без правильной сетевой архитектуры приводило к деградации производительности. Вывод тот же: сетевая топология определяет надёжность всего кластера.

Практическая реализация на MikroTik для 4 узлов DGX Spark

Настройка VLAN и IP-адресации

Исходные данные: коммутатор MikroTik CRS317-1G-16S+, четыре узла DGX Spark. Схема с выделенными портами управления.

Распределение портов:

  • Порты sfp-sfpplus1-4: fabric (данные), VLAN 10
  • Порты sfp-sfpplus5-8: управление, VLAN 20

IP-адресация:

  • Data-сеть: 10.0.0.0/24. Узлы: 10.0.0.11-14, коммутатор: 10.0.0.1
  • Управляющая сеть: 192.168.100.0/24. Узлы: 192.168.100.11-14, коммутатор: 192.168.100.1

Фрагмент конфигурации MikroTik:

/interface bridge
add name=bridge1
/interface vlan
add interface=bridge1 name=vlan10-data vlan-id=10
add interface=bridge1 name=vlan20-mgmt vlan-id=20
/interface bridge port
add bridge=bridge1 interface=sfp-sfpplus1 pvid=10
add bridge=bridge1 interface=sfp-sfpplus2 pvid=10
add bridge=bridge1 interface=sfp-sfpplus3 pvid=10
add bridge=bridge1 interface=sfp-sfpplus4 pvid=10
add bridge=bridge1 interface=sfp-sfpplus5 pvid=20
add bridge=bridge1 interface=sfp-sfpplus6 pvid=20
add bridge=bridge1 interface=sfp-sfpplus7 pvid=20
add bridge=bridge1 interface=sfp-sfpplus8 pvid=20
/ip address
add address=10.0.0.1/24 interface=vlan10-data
add address=192.168.100.1/24 interface=vlan20-mgmt

На каждом узле DGX Spark fabric-интерфейс получает IP из data-сети (10.0.0.0/24), а выделенный порт управления - из management-сети (192.168.100.0/24). Маршрут по умолчанию на узлах прописывается через data-сеть для доступа к внешним ресурсам, управляющая сеть используется только для внутренних соединений.

Обеспечение безопасности управляющего трафика

Управляющая сеть не должна быть доступна извне. На MikroTik настройте правила firewall, которые блокируют любой трафик в VLAN 20 с внешних интерфейсов и разрешают только с доверенных подсетей:

/ip firewall filter
add chain=input in-interface=!vlan20-mgmt dst-address=192.168.100.0/24 action=drop
add chain=input in-interface=vlan20-mgmt protocol=tcp dst-port=22 action=accept
add chain=input in-interface=vlan20-mgmt action=drop

На узлах DGX Spark отключите ненужные сервисы на управляющем интерфейсе, используйте аутентификацию только по SSH-ключам, запретите root-доступ по SSH. Управляющая сеть - это внутренний контур, его компрометация даёт злоумышленнику полный контроль над кластером.

Для схемы с общим fabric-интерфейсом настройка усложняется. На MikroTik порты конфигурируются как trunk с двумя VLAN. Необходимо включить QoS и назначить приоритет трафику VLAN 20 (управление) через настройку очередей. Без этого при насыщении канала данными управляющие пакеты будут отбрасываться наравне с data-трафиком.

Рекомендации: какую схему выбрать для вашего кластера

Выбор сводится к трём факторам: требования к доступности, бюджет портов, характер нагрузок.

КритерийВыделенные портыОбщий fabric
Изоляция трафикаПолная, физическаяЛогическая (VLAN), требует QoS
ОтказоустойчивостьМожно добавить резервный портОтказ порта - потеря узла
Порты коммутатора (4 узла)8 (минимум)4
Задержка управления<1 мс, предсказуемаЗависит от загрузки data-канала
Сложность настройкиНизкаяСредняя (QoS, мониторинг)
ДиагностикаПростаяСложная

Выделенные порты управления - обязательный минимум для production-сред. Это рекомендация NVIDIA для DGX-систем и общая практика HPC-кластеров. Если бюджет портов ограничен, а кластер используется для тестов и разработки, допустима схема с общим fabric-интерфейсом при обязательной настройке QoS и мониторинга задержек.

Для кластеров из 2-4 узлов с умеренными нагрузками (инференс, не distributed training) общий интерфейс работает приемлемо. Пиковые нагрузки при инференсе ниже, чем при тренировке, и управляющий трафик редко испытывает проблемы. Однако при масштабировании до 8+ узлов или переходе к distributed training переходите на выделенные порты управления.

Конкретный пример из практики: в тесте DeepSeek-V4-Flash на 2× DGX Spark мы использовали выделенные порты управления, что позволило мониторить загрузку памяти и температуру узлов даже при полной загрузке fabric-канала под 253 tok/s в конкурентном режиме. Без изоляции управления диагностика была бы невозможна.

Итоговый чек-лист для принятия решения:

  • Production-среда, простой стоит денег → выделенные порты управления, минимум один на узел.
  • Тестовый кластер, бюджет ограничен → общий fabric с VLAN и QoS.
  • Планируется distributed training → только выделенные порты, с резервированием.
  • Кластер из 2-4 узлов, только инференс → допустим общий интерфейс, но мониторинг обязателен.

Подписаться на канал