Nvidia представила DGX Spark HPC Developer Kit на конференции SC26 в Чикаго. Формально это четыре компактных компьютера DGX Spark в одной поставке, суммарно 512 ГБ памяти, и адресован комплект исследователям и разработчикам, которым нужно локально запускать AI-модели, отлаживать распределённые приложения и вести ресурсоёмкие расчёты (публикация о презентации на SC26).
Практический смысл анонса простой: у Nvidia появился промежуточный формат между одним настольным AI-компьютером и серверной стойкой. Один DGX Spark упирается в 128 ГБ памяти, четыре узла дают 512 ГБ и, что важнее, сеть между ними. По заявлению Nvidia, такого запаса хватает для локального запуска моделей размером до 700 млрд параметров. Независимых замеров на конкретных моделях на момент публикации нет, поэтому эту цифру стоит читать как верхнюю границу при агрессивном квантовании и умеренном контексте.
Цена комплекта не опубликована: на сайте доступна только заявка. Ориентир для бюджета: четыре отдельных DGX Spark со 128 ГБ памяти и SSD на 4 ТБ обойдутся почти в 28 тыс. долларов без учёта коммутации и дополнительного оборудования (разбор анонса с характеристиками и оценкой стоимости).
Что такое DGX Spark HPC Developer Kit и зачем Nvidia собрала четыре узла в кластер
Комплект продаётся как одна система из четырёх узлов DGX Spark, а не как четыре независимые машины. Узлы соединены между собой напрямую, поэтому кластер можно поднять на столе, без стойки, свитча и отдельной серверной комнаты. Для научных групп и небольших команд это заметная разница: тестовый стенд, похожий по топологии на большой кластер, появляется без заявки в вычислительный центр.
Чем комплект отличается от одного DGX Spark
Разница идёт по трём осям: объём памяти, наличие межмашинного соединения и класс задач.
| Параметр | Один DGX Spark | Комплект из четырёх узлов |
|---|---|---|
| Память | 128 ГБ LPDDR5X, общая для CPU и GPU | 512 ГБ суммарно, по 128 ГБ на узел |
| Пиковая производительность | до 1 петафлопса в FP4 | четыре узла; агрегированную цифру Nvidia не заявляет, арифметически это 4 петафлопса FP4 |
| NVMe-хранилище | 4 ТБ | 16 ТБ суммарно |
| Связь между машинами | нет | кольцо через ConnectX-7, каждый узел связан с двумя соседями |
| Типовые задачи | локальный инференс в пределах 128 ГБ, разработка и отладка на одной машине | распределённые приложения, MPI, модели, которые не влезают в один узел |
512 ГБ здесь не единый пул в привычном смысле. Это сумма памяти четырёх узлов, и модель нужно разложить между ними средствами рантайма. Как именно считается такая раскладка по весам и KV-кэшу, подробно разобрано в материале о том, сколько узлов DGX Spark реально нужно для крупных LLM.
Позиционирование в линейке Nvidia: между рабочей станцией и сервером
По характеристикам комплект занимает нишу между настольными системами и серверными DGX на H100 или H200. Потребительский ПК с одной-двумя видеокартами решает повседневные задачи, но не даёт ни 512 ГБ памяти, ни отладочной среды для MPI-кода. Серверный узел даёт производительность другого класса, требует стойки, питания и обслуживания. Четыре DGX Spark закрывают середину: компактность, общая память CPU и GPU на каждом узле, кольцевая сеть и 16 ТБ локального хранилища.
Отдельно в линейке стоит DGX Station 2026: это одно рабочее место с памятью уровня дата-центра и многопользовательским доступом. Выбор между станцией и кластером из Spark упирается в задачу: одному человеку или небольшой команде под инференс чаще достаточно станции, а распределённые вычисления и проверка кода перед большим кластером требуют нескольких узлов.
Архитектура кластера DGX Spark: узлы, память и соединение в кольцо
Каждый узел построен на GB10 Grace Blackwell Superchip с 20-ядерным Arm-процессором и графическим ускорителем Blackwell, имеет 128 ГБ памяти LPDDR5X, общей для CPU и GPU, и пиковую производительность до 1 петафлопса в FP4. Суммарный объём NVMe-накопителей кластера достигает 16 ТБ (характеристики узлов и кластера).
GB10 Grace Blackwell Superchip: что даёт связка Arm-CPU и GPU Blackwell
Процессор и ускоритель объединены в один чип с общей памятью. Для разработчика это означает отсутствие привычного копирования данных между хостом и устройством: и CPU, и GPU работают с одним адресным пространством на 128 ГБ. На практике такой узел проще нагружать моделями, которые на дискретной видеокарте пришлось бы частично держать в системной памяти.
Вторая сторона медали - Arm. Часть Python- и CUDA-экосистемы придётся ставить из исходников или искать готовые сборки под aarch64. Nvidia готовит инструкцию по развёртыванию HPC SDK с GPU-ускоренными компиляторами C, C++ и Fortran, библиотеками и средствами MPI для научных приложений, то есть стек рассчитан на HPC-нагрузки, а не только на LLM.
512 ГБ памяти: сумма, а не единый пул
Четыре раза по 128 ГБ LPDDR5X дают 512 ГБ, но эти гигабайты физически разнесены по узлам. Модель раскладывается между машинами через tensor parallelism (слой делится между узлами) или pipeline parallelism (узлы обрабатывают разные блоки слоёв). Поддержка такого шардинга зависит от рантайма, и не каждый фреймворк умеет работать с четырьмя узлами из коробки.
Общая память CPU и GPU внутри узла снимает часть проблем с офлоадом, но не превращает кластер в одну видеокарту на 512 ГБ. Планировать нагрузку нужно так, как если бы у вас было четыре машины с жёсткой границей в 128 ГБ на каждой.
Кольцо ConnectX-7 без коммутатора: плюсы и пределы топологии
Узлы соединены в кольцо через сетевую карту Nvidia ConnectX-7. Каждый DGX Spark связан с двумя соседями, поэтому отдельный сетевой коммутатор не нужен. Развёртывание упрощается и дешевеет: меньше железа, меньше точек отказа, понятная схема кабелей.
У топологии есть цена. Обмен между несоседними узлами идёт через промежуточные машины, а значит, латентность и характер пересылки зависят от того, как именно распределены данные. Для инференса с pipeline parallelism кольцо работает естественно: данные текут по цепочке. Для интенсивного tensor parallelism с частыми коллективными операциями вроде all-reduce полноценная коммутация была бы предсказуемее, особенно при обучении. Конкретных значений латентности и пропускной способности в материалах анонса нет, поэтому цифры здесь приводить не из чего.
Модели до 700 млрд параметров: что это значит на практике
Заявление о поддержке моделей до 700 млрд параметров - верхняя граница, а не типовой сценарий. Чтобы понять, где проходит реальная граница для вашей задачи, нужно посчитать три составляющие: веса, KV-кэш и накладные расходы рантайма.
Сколько памяти съедают веса, KV-кэш и контекст
Базовая арифметика простая: количество параметров умножается на число байт на параметр. FP16 - 2 байта, FP8 - 1 байт, FP4 и INT4 - около 0,5 байта.
- Модель 70B в FP16: около 140 ГБ только весов, то есть больше памяти одного узла.
- Модель 70B в 4-битном квантовании: порядка 35-40 ГБ весов, комфортно для одного узла.
- Модель 400-700B в 4-битном квантовании: несколько сотен гигабайт, и 512 ГБ становятся узким местом при длинном контексте.
KV-кэш считается отдельно и растёт линейно с длиной контекста и размером батча. Формула на один токен: 2 × число слоёв × число KV-голов × head_dim × байт на элемент. Для модели с 80 слоями, 8 KV-головами и head_dim 128 в FP16 это около 0,31 МБ на токен, а на контексте 32 тыс. токенов - примерно 10 ГБ. Плюс буферы, плюс оверхед рантайма. Отсюда вывод: 512 ГБ хватает на крупные модели в низком квантовании с умеренным контекстом, но не на FP16-варианты таких моделей и не на длинные контексты с большим батчем.
Какие модели и форматы реально имеют смысл на таком кластере
По типам моделей расклад такой. Плотные модели на 70-120 млрд параметров в 4-8-битном квантовании работают предсказуемо и оставляют запас под контекст. MoE-модели с большим общим числом параметров и меньшим числом активных на токен ложатся на распределённую память лучше: веса размазываются по узлам, а вычисления на токен остаются умеренными, о механике такого подхода есть разбор MoE и активируемых весов. Плотные модели на 400-700 млрд параметров возможны только при агрессивном квантовании и скромном контексте.
Второй ограничитель - софт. Поддержка шардинга между узлами зависит от рантайма: vLLM, TensorRT-LLM, llama.cpp и другие проекты требуют разных усилий для запуска на Arm и на нескольких машинах. Конкретную комбинацию модели, квантования и рантайма придётся проверять на месте: гарантий "работает из коробки" для всех вариантов нет.
Пиковые 1 петафлопс FP4 на узел относятся к узким операциям и не равны скорости генерации токенов. Реальная отдача упирается в пропускную способность памяти LPDDR5X и в сеть между узлами, а не в пиковую цифру из спецификации.
Кому нужен кластер DGX Spark, а кому хватит одной машины или облака
Решение имеет смысл там, где локальность и распределённость важнее пиковой производительности на доллар. Ниже три ситуации, по которым проще всего проверить себя.
Сценарий: локальный инференс крупных моделей под NDA
Команда работает с документами, кодом или медицинскими данными, которые нельзя отправлять в облачные API. Кластер даёт то, чего не даёт одна рабочая станция: модели, не влезающие в 128 ГБ, при том что данные не покидают периметр. Что нужно согласовать до покупки: политику доступа к узлам, схему резервного копирования 16 ТБ NVMe, физическое размещение и отвод тепла в помещении.
Признак успеха здесь конкретный: модель отвечает на реальных запросах команды с приемлемой задержкой под нагрузкой, близкой к рабочей, а не просто запускается один раз на демо-промпте.
Сценарий: отладка распределённых приложений и MPI перед большим кластером
Разработчику HPC-кода нужен стенд, на котором можно быстро перезапускать сборку и ловить ошибки в коллективных операциях. Четыре узла под столом дешевле и быстрее, чем очередь на большом кластере, где каждый прогон требует заявки. Инструкция по HPC SDK с компиляторами C, C++ и Fortran и средствами MPI как раз про этот сценарий.
Что проверить: собирается ли код под Arm, корректно ли работают коллективные операции на кольце ConnectX-7, воспроизводится ли поведение при переносе на целевой кластер. Профилирование и подбор топологии лучше делать вместе со специалистом по HPC: расхождение между мини-стендом и большим кластером обычно проявляется именно в сети.
Когда облако или одна рабочая станция выгоднее
Проверьте себя по чек-листу. Нагрузка редкая и пиковая? Облачные GPU с почасовой оплатой обойдутся дешевле, чем почти 28 тыс. долларов за железо плюс электричество, охлаждение и время инженера. Модели укладываются в 70B в квантовании, задачи повседневные? Одна рабочая станция с мощной потребительской видеокартой закроет их без администрирования кластера. Нужно серьёзное обучение с нуля? Кластер на LPDDR5X и кольце не замена серверу на H100 или H200: это среда разработки и отладки, а не тренировочная ферма.
Кластер оправдан, когда одновременно выполняются три условия: данные нельзя выносить за периметр, нужна постоянная локальная среда, и есть человек, который будет её обслуживать.
Софт и стек: HPC SDK, компиляторы, MPI и рантаймы для LLM
Nvidia готовит инструкцию по развёртыванию HPC SDK с GPU-ускоренными компиляторами C, C++ и Fortran, библиотеками и средствами MPI для научных приложений. На момент публикации документ только готовится, поэтому рассчитывать на полностью описанный путь "распаковал и запустил" не стоит.
Для LLM-сценариев понадобится рантайм с поддержкой шардинга между узлами и сборками под Arm. Часть экосистемы придётся собирать из исходников, а готовность конкретных фреймворков к четырём узлам нужно проверять на своих моделях.
Разумная последовательность развёртывания выглядит так:
- Поднять инференс на одном узле и зафиксировать задержку и пропускную способность на рабочем промпте.
- Добавить второй узел, включить шардинг и сравнить результат с первым шагом: если прирост близок к нулю, проблема в сети или в неоптимальном распределении слоёв.
- Подключить оставшиеся два узла и проверить кольцо под длительной нагрузкой, а не одним запросом.
- Зафиксировать версии драйверов, CUDA, компиляторов и рантайма, чтобы конфигурация воспроизводилась после обновлений.
Признак готовности стенда - стабильная работа под нагрузкой и повторяемый запуск с нуля по вашей же инструкции. Один успешный старт ничего не доказывает.
Цена и комплектация: сколько стоит и что уточнять по заявке
Комплект уже можно заказать, но цену Nvidia на сайте не указывает: для подробностей нужно оставить заявку. Ориентир для расчёта бюджета - почти 28 тыс. долларов за четыре отдельных DGX Spark со 128 ГБ памяти и SSD 4 ТБ, без коммутации и дополнительного оборудования. Это именно ориентир по отдельным узлам, а не цена комплекта, и переносить её на готовый кит как факт нельзя.
В заявке имеет смысл уточнить конкретные пункты:
- входит ли в поставку всё необходимое для кольца ConnectX-7, включая кабели и адаптеры;
- какие условия гарантии и поддержки, распространяются ли они на ПО и на кластерную конфигурацию;
- есть ли опции по объёму NVMe сверх 16 ТБ;
- сроки поставки и доступность в нужном регионе;
- что именно входит в HPC Developer Kit помимо железа: образы системы, доступ к документации, обучение.
Отдельно стоит держать в голове рыночный контекст: доступность DGX Spark уже колебалась, и цена на отдельные узлы за неделю прибавляла около $2 тыс.. Это влияет на ориентир по стоимости четырёх машин, но не на цену самого комплекта.
Ограничения и подводные камни DGX Spark HPC Developer Kit
Список минусов лучше увидеть до отправки заявки.
- LPDDR5X вместо HBM. Пропускная способность памяти ниже, чем у серверных ускорителей, и именно она ограничивает скорость генерации токенов на крупных моделях. Критично для интерактивных сценариев с большой моделью; для отладки кода и пакетной обработки терпимо.
- Кольцевая топология без свитча. Экономит деньги и упрощает сборку, но коллективные операции между несоседними узлами идут через промежуточные. Мешает при интенсивном tensor parallelism и распределённом обучении, меньше влияет на pipeline-инференс.
- Arm-архитектура. Часть инструментов и библиотек придётся собирать из исходников. Если в вашем стеке есть закрытые бинарные зависимости без сборок под aarch64, это станет отдельным проектом.
- 512 ГБ - распределённый пул. Модель нужно шардить, и поддержка шардинга зависит от рантайма. Модели, которые стартуют на одном узле, не получают автоматического ускорения от четырёх.
- Нет публичных независимых бенчмарков. Цифра в 700 млрд параметров и 1 петафлопс FP4 - заявления производителя. Токены в секунду на конкретных моделях придётся измерять самостоятельно.
- Цена по заявке. Сравнить комплект с альтернативами по прайс-листу невозможно, пока вы не получите коммерческое предложение.
- 16 ТБ NVMe на четверых. Для датасетов, чекпоинтов и нескольких квантованных версий одной модели этого мало. Внешнее хранилище стоит посчитать в бюджете заранее.
- Эксплуатация. Питание, охлаждение и шум в помещении, где работают люди, нужно планировать до покупки: четыре компактных машины под длительной нагрузкой все равно требуют нормального воздухообмена.
Итог: стоит ли ждать DGX Spark HPC Developer Kit
Комплект закрывает узкую нишу: локальная распределённая разработка и инференс крупных моделей в квантованном виде для команд с требованиями к приватности и с HPC-задачами. Для одиночного инференса, для повседневных задач с моделями до 70B и для обучения с нуля он не замена рабочей станции, серверу на H100 или H200 и облаку при редкой нагрузке.
Практический следующий шаг выглядит так. Составьте список моделей и задач, которые собираетесь запускать, посчитайте под них память по формуле выше с запасом на KV-кэш. Затем проверьте, есть ли сборки вашего рантайма под Arm и документация по работе на нескольких узлах. После этого отправляйте заявку и запрашивайте цену, состав поставки, гарантию и сроки. Если по расчёту памяти модели укладываются в 128 ГБ, начните с одного узла: возможно, кластер вам пока не нужен.