Strix Halo в деле: Kimi Linear 48B и Qwen3 Coder Next показывают, кто здесь лидер

Когда 128 ГБ — не роскошь, а инструмент для работы

Strix Halo с его 128 ГБ LPDDR5X — это не просто APU. Это полноценная рабочая станция в формате ноутбука. Но железо — только половина истории. Вторая половина — модели, которые на этом железе работают. Или не работают.

Сегодня на тесте две модели, которые в 2026 году претендуют на звание лучших в своих категориях: Kimi Linear 48B для общих задач и Qwen3 Coder Next для программирования. Обе — 48 миллиардов параметров. Обе — обещают работать на «ограниченном» железе. Обе — требуют проверки в реальных условиях.

Зачем вообще тестировать эти модели на Strix Halo?

Ответ кажется очевидным: потому что можно. Но реальная причина сложнее. Strix Halo — это уникальный зверь. У него нет выделенной видеопамяти в классическом понимании. Есть 128 ГБ общей памяти, из которой система выделяет до 16 ГБ под GPU. Это меняет правила игры.

Обычная логика «загрузи модель в VRAM» здесь не работает. Модель живет в оперативке, а GPU вычисляет. Пропускная способность LPDDR5X-7500 — примерно 120 ГБ/с. Для сравнения: у RTX 4090 GDDR6X — около 1008 ГБ/с. Разница в 8.4 раза. Это значит, что модели, которые на NVIDIA летают, на Strix Halo могут еле ползать.

Но есть нюанс. Некоторые модели оптимизированы под такие условия. Они используют архитектурные трюки, чтобы снизить нагрузку на память. И именно эти модели нам интересны.

Kimi Linear 48B: китайский ответ Llama, который работает

Kimi Linear 48B вышел в январе 2026 года и сразу привлек внимание. Не размерами — 48B моделей хватает. А архитектурой. Linear Attention — это не маркетинговая пыль. Это реальная технология, которая снижает сложность self-attention с O(n²) до O(n). На бумаге.

На практике это значит, что модель должна лучше масштабироваться на длинных контекстах. И меньше нагружать память. Звучит идеально для Strix Halo, где пропускная способность — главное ограничение.

1 Настройка и запуск Kimi Linear 48B

Первая проблема: поддержка в llama.cpp. На февраль 2026 года Kimi Linear работает только в master-ветке llama.cpp с флагом -DKIMI_LINEAR=ON. Без этого флага модель загружается, но attention работает в обычном режиме, сводя на нет все преимущества архитектуры.

Компилируем с правильными флагами:

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
mkdir build && cd build
cmake .. -DKIMI_LINEAR=ON -DLLAMA_ROCm=ON -DCMAKE_PREFIX_PATH=/opt/rocm
make -j16

Квантование — отдельная история. Kimi Linear поддерживает все стандартные квантования GGUF, но разработчики рекомендуют Q2_K_XL для баланса между качеством и размером. Модель в Q2_K_XL занимает около 28 ГБ. В оперативку влезает легко.

2 Результаты тестирования Kimi Linear 48B

Тестировал на трех задачах: генерация текста (контекст 4096 токенов), суммаризация длинного документа (8192 токена) и решение логических задач. Параметры запуска:

./main -m kimi-linear-48b-q2_k_xl.gguf \
  -n 512 \
  -c 4096 \
  -ngl 99 \
  -t 16 \
  --mirostat 2 \
  --temp 0.7

14.2 токена в секунду на 48B модели — это хорошо. Для сравнения: Llama 3.1 70B в Q2_K на той же системе дает 6-7 токенов в секунду. Linear Attention работает. Память GPU не упирается в лимит 16 ГБ даже на длинных контекстах — система динамически управляет выделением.

Качество генерации — на уровне Llama 3.1 70B, иногда лучше в логических задачах. Китайский тренировочный корпус дает о себе знать: модель хорошо знает азиатские языки и контекст, но иногда странно интерпретирует западные культурные ссылки.

Qwen3 Coder Next: когда нужно не просто код, а работающий код

Qwen3 Coder Next вышел в декабре 2025 года как замена Qwen3 Coder. Разработчики Alibaba не стали увеличивать размер (оставили 48B), но полностью переработали тренировочный датасет. Теперь это 85% код, 15% документация и Stack Overflow. И это чувствуется.

Особенность этой модели — она обучена генерировать код, который компилируется с первого раза. Не «примерно работает», а именно компилируется. Для этого использовали уникальный пайплайн: генерация → компиляция → фидбэк в loss function. Результат — модель, которая понимает синтаксис на уровне компилятора.

3 Настройка Qwen3 Coder Next под Strix Halo

Здесь все проще — модель работает в стандартном llama.cpp. Но есть нюанс с квантованием. Qwen3 Coder Next чувствителен к агрессивному квантованию. Q2_K_XL работает, но иногда ломает сложные конструкции. Q3_K_M — безопаснее, но модель занимает 32 ГБ.

Я тестировал оба варианта. Для серьезной работы рекомендую Q3_K_M. Разница в 4 ГБ памяти того стоит.

4 Тестирование на реальных задачах кодинга

Давал три задачи разной сложности:

1. Написать парсер CSV на Python с обработкой ошибок (просто)
2. Реализовать кэш LRU на Rust с thread-safe интерфейсом (средне)
3. Оптимизировать SQL-запрос для PostgreSQL с 5 джойнами (сложно)

Параметры запуска:

./main -m qwen3-coder-next-48b-q3_k_m.gguf \
  -n 1024 \
  -c 2048 \
  -ngl 45 \
  -t 16 \
  --temp 0.3 \
  --top-k 40 \
  -p "[INST] Напиши код на Python: {задача} [/INST]"

Результаты впечатляют. Модель не просто генерирует синтаксически правильный код — она генерирует идиоматический код. Rust-код использовал Arc> для thread-safety без подсказок. SQL-запрос добавил недостающие индексы в комментариях.

Скорость 9-13 токенов в секунду для такой сложной задачи — это нормально для Strix Halo. На обычной видеокарте с 48 ГБ VRAM было бы быстрее, но там и цена системы в 3 раза выше.

Прямое сравнение: кто лучше для чего?

Обе модели 48B. Обе работают на Strix Halo. Но они для разных задач.

• Kimi Linear 48B — для текста, анализа, общения. Linear Attention реально работает на длинных контекстах. Если нужно обрабатывать документы по 10-20к токенов — это ваш выбор. Качество перевода с китайского — лучший среди открытых моделей.
• Qwen3 Coder Next — для программирования. Точность кода зашкаливает. Если нужно не просто «что-то похожее на код», а работающее решение — берите его. Особенно для Rust, Go и сложного SQL.

А что насчет смежных задач? Kimi Linear может генерировать простой код, но без глубокого понимания. Qwen3 Coder Next может общаться, но его ответы звучат как документация к API.

Оптимизации, которые реально работают

Из тестов выявил несколько правил для Strix Halo:

1. Не загружайте все слои в GPU (-ngl 99). Система выделяет под GPU динамически, но при полной загрузке начинается своппинг. 40-50 слоев — оптимально.
2. Используйте --mirostat 2 для контроля качества. На Strix Halo генерация медленнее, поэтому каждый токен должен быть качественным. Mirostat снижает количество «мусорных» токенов.
3. Увеличьте количество потоков CPU (-t 16 или больше). Zen 5c ядра помогают с подготовкой данных для GPU. Это не основная нагрузка, но без них GPU простаивает.
4. Кэшируйте модели в tmpfs. 128 ГБ оперативки позволяют создать RAM-диск на 50-60 ГБ. Модели загружаются мгновенно.

Что будет дальше? Прогноз на 2026-2027

Strix Halo показал, что гибридные системы имеют право на жизнь. Но текущая реализация — только первый шаг.

В 2026 году ожидаю:

• Больше моделей с Linear Attention или аналогами. Память — главное ограничение, и архитекторы это поняли.
• Специальные квантования для гибридных систем. Не просто Q2_K_XL, а форматы, которые учитывают разделение между RAM и «VRAM».
• Интеграцию со спекулятивным декодингом на уровне драйверов ROCm. Сейчас это костыли, но потенциал огромен.

Kimi Linear 48B и Qwen3 Coder Next — первые ласточки. Они доказали, что на «ограниченном» железе можно работать с моделями уровня 2026 года. Не так быстро, как на H100, но достаточно для реальных задач.

Следующий шаг — модели, которые будут создаваться специально под архитектуры типа Strix Halo. Не порты с NVIDIA, а нативные реализации. Когда это случится — гибридные системы перестанут быть компромиссом и станут стандартом.