Что такое Xing4.0-29B-A4B и кому она адресована
Xing4.0-29B-A4B - открытая языковая MoE-модель серии Xing (раньше она называлась TeleChat), которую выпустила China Telecom Artificial Intelligence Technology Co., Ltd. У неё 29 млрд параметров всего, а на каждый токен активируется около 4 млрд. Нативный контекст - 256K токенов с расширением до 512K. Заявленное позиционирование: многошаговое планирование, вызов инструментов, длинные цепочки рассуждений и инженерные задачи. Все характеристики и цифры ниже взяты из карточки модели.
Сразу обозначим границы. Модель не выигрывает всё подряд. Она уступает Gemma4-26B-A4B в IFBench (69,67 против 72,67) и Qwen3.6-35B-A3B в AIME2026 (90,00 против 92,70). Зато держит паритет в SWE-bench Verified (75,00 против 76,00 у Qwen3.6 и 53,00 у Gemma4), обходит обоих в Terminal-Bench 2.1 (57,50 против 30,00 и 51,50) и в DeepresearchBII (60,80 против 39,30 и 59,70). Это модель под конкретный класс задач, а не универсальный лидер по всем метрикам.
Отдельный пункт, который разработчик выносит вперёд: Xing4.0-29B-A4B полностью обучена на платформе Ascend NPU с фреймворком MindSpore. По формулировке карточки, это первая модель такого масштаба, обученная целиком на этом стеке. Независимого подтверждения в доступных материалах нет, поэтому относимся к этому как к заявлению вендора.
Ключевые характеристики в двух словах
- Параметры: 29 млрд всего, 4 млрд активных на токен.
- Контекст: 256K нативно, расширение до 512K.
- Архитектура: mHC + MLA + MTP.
- Глубина и ширина: 40 слоёв, hidden size 3584.
- FFN: dense intermediate size 9216, expert intermediate size 1024.
- Эксперты: 64 routed, 4 активных на токен, 1 shared.
- Инструменты: LLaMA-Factory и MindFormers для файнтюнинга, SGLang, vLLM и KTransformers для инференса.
Что даёт разреженность на практике. На каждом токене работает небольшая часть сети, поэтому объём вычислений близок к плотной модели на 4 млрд параметров. Но все 29 млрд весов нужно где-то хранить: видеопамять считается по полному размеру, а не по активной части. Именно эта цифра определяет, влезет ли модель в ваше железо.
Как устроена архитектура mHC + MLA + MTP и зачем это агентам
Три компонента в названии решают разные задачи. mHC в карточке описан как часть стека, которая держит связность и стабильность выполнения задачи в длинном контексте; расшифровку аббревиатуры источник не приводит, поэтому ограничимся функциональной ролью. MLA (Multi-head Latent Attention) сжимает KV-кэш. MTP (Multi-Token Prediction) предсказывает несколько токенов за шаг и ускоряет генерацию.
Связь с агентами прямая. Агент на каждом шаге тащит в контекст историю вызовов инструментов, вывод терминала и собственные прошлые рассуждения. К пятидесятому-сотому шагу там набегают десятки тысяч токенов, и KV-кэш становится главным пожирателем памяти. MLA снижает его стоимость, 256K контекста даёт место под историю, MTP ускоряет генерацию длинных цепочек. Вся комбинация и есть техническая основа агентного позиционирования. Как сжимают KV-кэш в латентных вариантах моделей, разбирали в отдельном материале про MLA и GLA-g2.
MoE-роутинг: 64 эксперта, 4 активных и один shared
Внутри 64 routed-эксперта, роутер выбирает 4 на каждый токен. Плюс один shared expert, который активен всегда и берёт на себя общие для всех токенов паттерны. Expert intermediate size 1024 против 9216 у dense FFN: каждый эксперт узкий и специализированный, а общая ёмкость набирается их количеством.
Практический смысл: активные 4 млрд параметров задают скорость и вычислительную нагрузку на токен, а 29 млрд задают требования к памяти. Отсюда типичная арифметика MoE: модель может быть быстрой, но не компактной.
Бенчмарки: где Xing4.0-29B-A4B сильнее и где проигрывает
| Бенчмарк | Xing4.0-29B-A4B | Gemma4-26B-A4B | Qwen3.6-35B-A3B |
|---|---|---|---|
| SWE-bench Verified | 75,00 | 53,00 | 76,00 |
| Terminal-Bench 2.1 | 57,50 | 30,00 | 51,50 |
| DeepresearchBII | 60,80 | 39,30 | 59,70 |
| IFBench | 69,67 | 72,67 | 65,50 |
| AIME2026 | 90,00 | 88,30 | 92,70 |
| Tau3-Bench | 64,63 | 58,90 | 67,20 |
| Claw-Eval | 76,55 | 71,49 | 74,54 |
| SWE-bench Multilingual | 66,00 | 51,00 | 67,20 |
| AA.LCR | 61,00 | 66,00 | 62,00 |
Все цифры взяты из таблицы в карточке модели, методологию замеров источник не раскрывает. Ниже разбор по группам задач.
SWE-bench Verified и Terminal-Bench 2.1: кодовые и терминальные задачи
SWE-bench Verified: 75,00 у Xing4.0, 53,00 у Gemma4-26B-A4B, 76,00 у Qwen3.6-35B-A3B. Отрыв от Gemma4 больше 20 пунктов, с Qwen3.6 паритет в пределах одного пункта. Terminal-Bench 2.1: 57,50 против 30,00 и 51,50. Здесь Xing впереди Qwen3.6 уже на 6 пунктов.
Terminal-Bench ближе к реальной работе агента: он проверяет выполнение задач в командной строке, а не только патч в репозитории. Разрыв в 27,5 пункта с Gemma4 и 6 пунктов с Qwen3.6 - самый весомый аргумент в пользу модели для терминальных агентов.
DeepresearchBII, IFBench и AIME2026: research, инструкции и математика
DeepresearchBII: 60,80 / 39,30 / 59,70. Небольшой перевес над Qwen3.6 и разрыв больше 20 пунктов с Gemma4, то есть в research-сценариях модель конкурентоспособна.
IFBench: 69,67 / 72,67 / 65,50. Xing уступает Gemma4 около 3 пунктов и обходит Qwen3.6 примерно на 4. AIME2026: 90,00 / 88,30 / 92,70, выше Gemma4 и ниже Qwen3.6 на 2,7 пункта.
Разница в 1-3 пункта на таких наборах часто лежит в пределах шума, и менять модель только из-за неё смысла мало. Куда важнее профиль задач. Если критично строгое следование формату ответа, Gemma4 по IFBench выглядит предпочтительнее. Если нужна олимпиадная математика, впереди Qwen3.6.
Остальные строки таблицы добавляют контекст. Tau3-Bench: 64,63 / 58,90 / 67,20, модель между конкурентами. Claw-Eval: 76,55 / 71,49 / 74,54, лидерство. SWE-bench Multilingual: 66,00 / 51,00 / 67,20, почти паритет с Qwen3.6. AA.LCR: 61,00 / 66,00 / 62,00, здесь Xing позади обоих, и это одна из немногих метрик, где отставание от Gemma4 доходит до 5 пунктов.
Обучение на Ascend NPU и MindSpore: что это значит на практике
Модель обучена целиком на Ascend NPU с MindSpore и адаптирована под кластеры Ascend 910C через MindSpore/MindFormers, включая работу с mHC и разработку слитых операторов. Заявленный прирост пропускной способности обучения - около 96% относительно out-of-the-box конфигурации.
За счёт чего получен прирост: тонкая настройка коммуникаций между экспертами MoE, выборочный пересчёт (selective recomputation), автоматическое слияние графов и операторов DVM, слитые операторы Ascend C mHC. Все четыре механизма перечислены в карточке.
Что это значит для читателя. Сигнал зрелости не-NVIDIA стека: на китайском железе обучили MoE-модель на 29 млрд параметров и заявили почти двукратный рост пропускной способности. Для большинства пользователей практическая ценность другая: запускать модель они будут на NVIDIA, AMD или Apple, и важнее совместимость с vLLM, SGLang и GGUF-раннерами. Утверждать, что модель работает только на Ascend, нельзя: в источнике этого нет, зато перечислены западные движки инференса.
Как запустить Xing4.0-29B-A4B: vLLM, SGLang, KTransformers и GGUF
Карточка перечисляет три официальных пути инференса и отдельно указывает GGUF-кванты для локального запуска. Сценарии различаются:
- SGLang и vLLM - серверный инференс с батчингом, когда нужно держать несколько одновременных запросов и выжимать пропускную способность.
- KTransformers - вариант для машин с ограниченной VRAM, где часть вычислений уходит на CPU.
- GGUF - десктопные llama.cpp-совместимые раннеры для одиночных запросов на своём железе.
Про SGLang отдельная деталь: версия 0.5.23 добавила опциональный Paged Experts. Механизм держит часть экспертов MoE в видеопамяти, остальные в оперативной памяти и подгружает недостающие на GPU по мере необходимости. Для модели с 64 экспертами это ровно тот сценарий, где памяти на все веса не хватает одновременно. Оговорка: источник описывает механизм для MoE-моделей в целом и не подтверждает протестированную совместимость именно с Xing4.0-29B-A4B.
GGUF-кванты от bartowski: что это даёт для локального запуска
Репозиторий XingChen-AGI_Xing4.0-29B-A4B-GGUF опубликован bartowski на Hugging Face. Состав квантов и размеры файлов в доступных материалах не расписаны, поэтому перед скачиванием откройте репозиторий и посмотрите актуальный список: он меняется по мере добавления вариантов.
Арифметика для ориентира: 29 млрд параметров при 4 битах на вес дают около 14,5 ГБ только на веса, плюс KV-кэш и накладные расходы рантайма. Четырёхбитный квант выглядит реалистичным минимумом для карты на 24 ГБ. На 16 ГБ придётся смотреть более агрессивные варианты и учитывать просадку качества, особенно в агентных задачах с длинным контекстом. Как выбирать между GGUF и EXL3 по bpw и что мерить в pp и decode, разбирали в материале что запускать на 2×RTX 5080 и 128 ГБ RAM.
Контекст считается отдельно от весов. 256K токенов KV-кэша - это гигабайты памяти, и MLA их снижает, но физику не отменяет: на локальном железе рабочий контекст почти всегда меньше заявленного максимума. Поддержку в llama.cpp и требования к VRAM разбирали отдельно в статье Xing4.0-29B-A4B в llama.cpp.
Файнтюнинг под вертикальные задачи: LLaMA-Factory и MindFormers
Для дообучения поддерживаются LLaMA-Factory и MindFormers. Первый - привычный инструмент с готовыми конфигами LoRA и QLoRA, второй - часть китайского стека, которая имеет смысл при работе на Ascend. Для команды на NVIDIA логичный вход - LLaMA-Factory: меньше специфики, больше готовых рецептов.
Целевые сценарии из карточки: классификация интентов, понимание таблиц, аудит контрактов, вопросно-ответные системы на знаниях. Все они про дообучение на собственных данных, а не про zero-shot применение.
С MoE добавляется слой решений. Обучать только attention-часть или трогать экспертов, менять ли роутер, как следить за балансировкой нагрузки между экспертами, чтобы часть из них не превратилась в балласт. Готового пошагового рецепта в карточке нет, это отдельная инженерная задача, и планировать её надо заранее.
Агентные фреймворки: Claude Code, Hermes, OpenCode, OpenClaw
Карточка заявляет целевую адаптацию и выравнивание форматов под OpenCode, Claude Code, OpenClaw и Hermes. На практике это значит, что структура tool calls и формат ответов приведены к тому, что ожидают перечисленные фреймворки. Меньше клея между моделью и раннером, меньше правок в промптах и парсерах.
Оговорки по делу. Формулировка «бесшовная интеграция» в источнике отсутствует, есть адаптация форматов. Версии фреймворков обновляются, и совместимость придётся проверять на своей сборке. Claude Code - проприетарный продукт Anthropic, адаптация под его формат идёт со стороны модели и официальной поддержки со стороны Anthropic не означает.
Кому подходит Xing4.0-29B-A4B, а кому - нет
Подходит в первую очередь тем, кто строит кодовых и терминальных агентов: 75,00 в SWE-bench Verified и 57,50 в Terminal-Bench 2.1 при 29 млрд общих и 4 млрд активных параметров. Второй сценарий - research-агенты с длинными цепочками поиска и синтеза: 60,80 в DeepresearchBII выше обоих конкурентов. Третий - дообучение под вертикальные задачи через LLaMA-Factory. Четвёртый - локальный запуск через GGUF-кванты, если готовы считать память по всем 29 млрд весов.
Стоит пройти мимо или сначала сравнить с альтернативами, если задача про строгое следование инструкциям: Gemma4-26B-A4B в IFBench выше (72,67 против 69,67). Если нужна олимпиадная математика, впереди Qwen3.6-35B-A3B (92,70 против 90,00). Если важна метрика AA.LCR, оба конкурента впереди (66,00 и 62,00 против 61,00). И если требуется обучение на своём железе не от Ascend, основной путь лежит через MindSpore/MindFormers, а это отдельная инфраструктурная история.
Ограничения, которые стоит учитывать до запуска
- Хранение весов: активные 4 млрд не уменьшают 29 млрд, которые нужно разместить в VRAM или RAM.
- Длинный контекст: 256K токенов KV-кэша стоят гигабайты памяти даже с MLA.
- Файнтюнинг MoE сложнее плотной модели: роутер, выбор экспертов, балансировка.
- Совместимость с фреймворками привязана к версии, её нужно проверять на своём стенде.
- Бенчмарки - данные разработчика, методология замеров не раскрыта, независимых прогонов в доступных материалах нет.
- Лицензия и точные требования к VRAM в исходных материалах не указаны, их нужно уточнять в репозитории перед внедрением.
Итог без обобщений: Xing4.0-29B-A4B - сильный кандидат для кодовых и терминальных агентов и для research-пайплайнов, где важнее длина контекста и устойчивость в длинной цепочке шагов, чем победа в каждом отдельном тесте. Начните с репозитория bartowski, посмотрите доступные кванты под свою память, прогоните на своих реальных задачах Terminal-Bench-подобного типа и только потом решайте, менять ли текущую модель.