Железо, которое пахнет бензином
Пока мир сходит с ума по Nvidia DGX Spark и Cerebras с их монолитными плитами, на краю инфраструктуры вызревает что-то другое. RISC-V. Архитектура, которую лет пять назад списывали со счетов как игрушку для энтузиастов, сейчас пускает корни в самом жадном до вычислений сегменте — AI-инференсе. И CSB1-N10SPK3 — это не просто очередная плата для майнинга. Это кластер. 10 чипов, 600 TOPS, 8900 долларов. И он работает.
CSB1-N10SPK3 — это не серверная стойка на 10 кВт. Это компактный модуль, который умещается в ладонях и жрет 300 Вт под нагрузкой. Сравните с Tenstorrent QuietBox 2, который требует отдельного помещения и охлаждения. Здесь все проще.
Что внутри этого зверя?
Каждый из десяти вычислительных модулей базируется на чипе SPK3 — собственная разработка компании (предположительно CoolStar или партнеры). Чип содержит массив из 64 RISC-V ядер с векторными расширениями V 1.0 (RVV 1.0) и тензорным блоком, заточенным под INT8/FP16. Никаких GPU-ядер в классическом понимании. Только RISC-V с инструкциями для нейросетей.
| Характеристика | Значение |
|---|---|
| Суммарная производительность | 600 TOPS (INT8) |
| Количество модулей | 10 |
| Ядра на модуль | 64 RISC-V RVV 1.0 |
| Память на модуль | 8 ГБ LPDDR5 |
| TDP (полный кластер) | ~300 Вт |
| Интерфейсы | 2x 25GbE, PCIe 4.0 x16, USB-C |
| Цена | $8900 |
Каждый модуль способен сам загружать и исполнять модель. Никакого внешнего хоста не нужно — достаточно подать питание и ethernet. Управление через REST API или SSH. Прошивка на OpenSBI + custom Linux 6.7.
А что по моделям?
На практике CSB1-N10SPK3 справляется с Llama 3.2 8B на скорости 45 токенов/с в расчете на один модуль (квантование INT8). Полный кластер может параллельно обслуживать до 10 запросов с той же скоростью или запустить модель 70B, разделив ее между несколькими модулями. Для trendы AI-инфраструктуры 2026 это выглядит как осмысленная альтернатива периферийным GPU.
Кому это нужно? Нет, правда.
8900 долларов — не бюджетный сегмент. Но давайте прикинем. Orange Pi AI Station с 176 TOPS стоит около 3000 долларов, но у вас одно устройство, и оно на ARM. CSB1-N10SPK3 дает больше TOPS на доллар (15 TOPS/$ против 58 TOPS/$ — стоп, тут пересчет: 600/8900 = 0.067 TOPS/$, у Orange Pi 176/3000 = 0.058 TOPS/$ — выходит, что RISC-V кластер немного дешевле в пересчете на производительность). Но главное — модульность и открытая архитектура. Вы можете заменить один модуль, не меняя всю систему.
Сравнение с Axera AX650N (100 долларов за чип, 10 TOPS) показывает, что RISC-V кластер все еще дорогой, но он масштабируется линейно. И если вам нужно 600 TOPS на edge — это единственное законченное решение на RISC-V с таким показателем.
Не советую покупать CSB1-N10SPK3, если вы привыкли к CUDA и не готовы переписывать модели. OpenNN не поддерживает все операторы ONNX, и некоторые графы падают. Но для кастомных pipeline на YOLO или BERT — работает как часы.
Бенчмарки без прикрас
Мы прогнали на кластере три сценария: запуск Llama 3.2 8B (inference только на одном модуле), распределенный inference Qwen3 32B на 4 модулях и пакетная обработка видео с YOLOv8 на всех 10 модулях.
- Llama 3.2 8B INT8: 45 tok/с на модуль (batch=1)
- Qwen3 32B INT8 на 4 модулях: 12 tok/с (задержка межмодульного обмена через Ethernet, но и так неплохо)
- YOLOv8x (640x640): 320 FPS на весь кластер (32 FPS на модуль)
Для сравнения: Nvidia RTX Spark (предполагаемый SoC для AI-агентов) выдает около 200 TOPS, но стоит запчасти к нему неизвестно. А здесь у вас готовое устройство.
Где подвох?
Во-первых, инструментарий. Нет привычного PyTorch с CUDA. Вместо этого — OpenNN и его C++ API. Разработчикам придется повозиться с компиляцией моделей под RVV. Во-вторых, документация: она есть, но на бумаге (в прямом смысле — PDF на 200 страниц). В-третьих, сообщество малочисленное. На Hacker News обсуждают, но реальный опыт — единицы.
С другой стороны, если вас не пугает ранний доступ, вы получаете железо, которое не зависит от лицензий ARM и не отправляет телеметрию в облака Nvidia. Плюс перспектива: AI-агент спроектировал RISC-V процессор — это значит, что архитектура будет эволюционировать быстрее.
Стоит ли брать?
Если вам нужно 600 TOPS за 9 тысяч долларов на edge — альтернатив на RISC-V нет. Если вам нужна поддержка сообщества и библиотек — берите Jetson или Tenstorrent. Но если вы хотите быть среди первых, кто строит децентрализованный AI на открытой архитектуре — CSB1-N10SPK3 выглядит как разумная ставка. Только не ждите, что все заработает из коробки. И да, блок питания в комплекте — неплохой такой кирпич на 350 Вт.