Что такое UkisAI Swift и зачем понадобилось сокращать переосмысление
UkisAI представила семейство эффективных reasoning-LLM Swift на базе Qwen. Модели обучены штрафовать токены, связанные с патологическим переосмыслением, и восстанавливать точность через RL (метод GSPO) и OPD. Если убрать технические термины: модель отучают бесконечно перепроверять себя там, где ответ уже готов, и следят, чтобы качество рассуждений при этом не просело.
В релиз вошли три модели. Swift1.5 27B тратит на 58,5% меньше thinking-токенов при оценке на 0,35% выше предыдущей версии. Swift Flash Next даёт на 63,4% меньше thinking-токенов и ускорение в 1,8 раза при отставании от базовой модели на 0,2% в режиме xhigh. Swift Bonsai 2 сокращает thinking-токены на 39,8% при росте оценки на 0,19% и помечена как экспериментальная. Анонс семейства опубликован UkisAI.
Патологическое переосмысление здесь означает не любые длинные рассуждения, а конкретные дефекты генерации: циклы «проверю ещё раз», возвраты к уже пройденным шагам, повторные переформулировки одной мысли другими словами. Модель выдаёт всё больше thinking-токенов, а итоговый ответ точнее не становится.
Почему переосмысление это проблема, а не признак глубокого мышления
Thinking-токены модель генерирует последовательно: каждое следующее рассуждение опирается на предыдущее. Лишние тысячи токенов растягивают ответ по времени, занимают место в контексте и увеличивают счёт при работе через API. Токен это фрагмент текста, на который языковая модель делит запрос и ответ, и именно в токенах измеряют объём работы LLM.
Эффект от штрафа за переосмысление видно на цифрах: у Swift1.5 27B расход thinking-токенов падает на 58,5%, а оценка при этом на 0,35% выше. Сокращение не оплачено падением качества.
Оговорка по существу: длинные цепочки рассуждений нужны для сложных задач, и цель обучения не в том, чтобы убрать их полностью. Речь о патологических паттернах, где модель ходит по кругу. Где проходит граница между полезным размышлением и циклом, авторы в анонсе не раскрывают.
Как обучали Swift: штраф за переосмысление, GSPO и OPD
Схема, описанная UkisAI, выглядит так: сначала обучение штрафует токены, связанные с патологическим переосмыслением, затем точность восстанавливают через RL (GSPO) и OPD. GSPO и OPD это методы обучения, а не пользовательские переключатели: в настройках инференса их нет, они уже вшиты в веса.
Базовая архитектура - Qwen. Гиперпараметры, объём данных и длительность обучения в анонсе не указаны, поэтому подход приходится оценивать по итоговым метрикам, а не по описанию процесса. Первый релиз лаборатории разбирался подробнее в материале про Swift Qwen 3.8 27B и штраф за переосмысление, а отдельный обзор файнтюна описывает тест через Aider, где вышло 7,3 тыс. completion-токенов против 12,5 тыс. у базовой модели.
Что даёт сокращение thinking-токенов для локального запуска
Локальный запуск упирается в две вещи: сколько весов влезает в память и как быстро модель выдаёт токены. Сокращение thinking-токенов бьёт по второй. Каждый сгенерированный токен требует полного прохода по модели, а генерация идёт последовательно, поэтому меньше шагов рассуждения напрямую означает меньше времени до готового ответа.
Ориентир по цифрам: Swift Flash Next даёт на 63,4% меньше thinking-токенов и ускорение в 1,8 раза при -0,2% к базовой модели в режиме xhigh. Это заявленные авторами результаты, а не гарантия на любом железе.
Важная оговорка из самого анонса: сокращение thinking-токенов не всегда превращается в пропорциональное ускорение или снижение стоимости. Итог зависит от аппаратного обеспечения, квантизации и характера нагрузки. Если задача и так не вызывала циклов рассуждения, выигрыш окажется скромнее.
Скорость и стоимость инференса: где экономия заметнее всего
Экономия проявляется там, где модель много рассуждает: агентные пайплайны с десятками шагов, задачи с инструментами, многошаговый рефакторинг кода. Арифметика простая: если ответ требует 24 000 thinking-токенов, сокращение на 58,5% оставляет примерно 10 000, и все эти промежуточные шаги генерировать не нужно. В платных API запросы тарифицируются в токенах, а не в словах или символах, поэтому меньший расход токенов при том же результате означает меньший счёт.
При локальном запуске экономия выражается в секундах ответа и в меньшем времени работы GPU под нагрузкой. Объём памяти под веса модели от числа thinking-токенов не меняется: меньше токенов на выходе сокращает рост KV-кэша внутри одного запроса, но не снижает требования к VRAM для загрузки самой модели.
Влияние на лимиты контекста и длину ответа
У каждой модели есть суммарный лимит на количество токенов в запросе и ответе вместе; при достижении лимита сервис либо обрезает текст, либо отказывается обрабатывать запрос. Thinking-токены входят в этот бюджет наравне с полезным выводом. Чем меньше модель тратит на размышления, тем больше места остаётся на длинный входной контекст (документы для RAG, логи, исходники) и на сам ответ.
Для агентов это заметно на длинных сессиях: каждый шаг добавляет рассуждения в историю диалога, и короткое мышление продлевает жизнь контекста до следующего сброса.
Модели семейства Swift: сравнение по бенчмаркам и компромиссам
Бенчмарки прогонялись по пять раз на базовой и Swift-версиях с усреднением по пяти сидам в четырёх доменах: General (GPQA, AIME26), Coding (LiveCodeBench), Vision (ERQA), Agentic (Terminal Bench 2.1). Разбивки по каждому бенчмарку в анонсе нет, поэтому сравнивать модели между собой по отдельным доменам не стоит. Методология и итоговые проценты приведены в анонсе.
| Модель | Thinking-токены | Оценка | Скорость | Статус |
|---|---|---|---|---|
| Swift1.5 27B | -58,5% | +0,35% | отдельно не заявлена | релиз |
| Swift Flash Next | -63,4% | -0,2% на xhigh | ускорение в 1,8 раза | релиз |
| Swift Bonsai 2 | -39,8% | +0,19% | отдельно не заявлена | экспериментальная |
Swift1.5 27B: меньше токенов, выше оценка
Это улучшенная версия предыдущей модели семейства: меньше расход токенов, исправленные ошибки обучения и лучшая агентная производительность. Итог по метрикам: -58,5% thinking-токенов при оценке на 0,35% выше.
На Terminal Bench 2.1 результат Swift1.5 27B выглядит низким, но авторы подчёркивают, что это не баг. Swift-модели не проваливают задачу, уходя в цикл переосмысления, а доводят её до конца, из-за чего средний расход токенов оказывается выше, чем у базовой версии. При сопоставимом сравнении сокращение остаётся на уровне -38,7%.
Swift Flash Next: максимальное ускорение
Самая быстрая модель семейства: -63,4% thinking-токенов, ускорение в 1,8 раза, оценка на 0,2% ниже базовой модели в режиме xhigh. Суффикс xhigh в сравнительных таблицах указывает на высокий уровень усилий модели при рассуждении, то есть на режим, где базовая версия выкладывается по полной. Разница в 0,2% небольшая, но она есть, и на задачах, чувствительных к глубине рассуждений, её стоит проверять отдельно. По названию это Swift-вариант модели Flash Next, о базовой версии есть отдельный разбор Qwen3.8-Flash-Next и её архитектурных особенностей.
Swift Bonsai 2: экспериментальная модель с балансом
Сокращение thinking-токенов на 39,8% при оценке на 0,19% выше. Авторы сами помечают версию как экспериментальную, то есть стабильность и воспроизводимость результата на всём диапазоне задач не гарантированы. История этой модели началась с вопроса к сообществу о том, какой квант выпускать, 1-bit или 2-bit, подробности в разборе обсуждения Swift-версии Bonsai 2.
Как запустить Swift локально: квантизации, API и HuggingFace Spaces
Для моделей Swift доступны квантизации GGUF, NVFP4, MLX и W4A16. Отдельно авторы добавили Research API и HuggingFace Spaces, чтобы можно было попробовать модели до скачивания или если не хватает вычислений. Анонсирован вариант на 9B, его планируют выпустить в ближайшие дни.
Выбор квантизации под ваше железо
Общие ориентиры по форматам. GGUF читают llama.cpp и совместимые раннеры, он работает и на CPU, и на GPU с частичной выгрузкой слоёв. MLX заточен под Apple Silicon и unified memory. NVFP4 и W4A16 рассчитаны на NVIDIA GPU. Любая квантизация снижает требования к памяти, но способна влиять на качество, поэтому для критичных задач имеет смысл прогнать один и тот же промпт через квант и через полную точность. Требования к VRAM для конкретных версий Swift в анонсе не указаны.
Research API и HuggingFace Spaces: как попробовать без установки
Оба варианта дают удалённый доступ: Research API для запросов к модели, Spaces для запуска в браузере. Это удобно для быстрой проверки на своих задачах без скачивания десятков гигабайт. Условия доступа, лимиты и срок работы Research API в анонсе не раскрыты, так что строить на нём продакшн-процессы без отдельной проверки не стоит.
Разбор аномалии на Terminal Bench 2.1: почему низкий результат не баг
Terminal Bench 2.1 проверяет агентные сценарии работы в терминале, то есть длинные цепочки шагов с командами и проверкой результата. Авторы отдельно пояснили: низкий результат Swift1.5 27B на этом бенчмарке не связан с ошибкой в модели. Причина в поведении: Swift не уходит в циклы переосмысления и доводит задачу до конца, из-за чего средний расход токенов на задачу оказывается выше, чем у базовой версии. При сопоставимом сравнении сокращение остаётся на уровне -38,7%. Пояснение дано в анонсе семейства.
Практический смысл этого нюанса простой: если смотреть только на средний расход токенов, модель, которая доводит сложные задачи до конца, проигрывает той, что прекращает попытки раньше. Метрику стоит читать вместе с долей завершённых задач.
Как методология тестирования влияет на выводы
Пять прогонов с усреднением по пяти сидам снижают влияние случайности, но не устраняют разницу в стратегии решения задач. Полезно смотреть на три величины сразу: итоговую оценку, число thinking-токенов и долю доведённых до конца задач. Одна цифра из таблицы редко описывает поведение агентной модели целиком.
Кому подходит Swift и стоит ли переходить с базовой Qwen
Сценарии, где выигрыш от Swift наиболее вероятен
- Агентные пайплайны с длинными цепочками шагов, где каждый лишний цикл рассуждения удлиняет сессию и съедает контекст.
- Локальный запуск на ограниченном железе: меньше токенов на выходе означает меньше времени работы модели под нагрузкой.
- Большие объёмы однотипных запросов, где важна стоимость в токенах.
- Задачи с жёстким лимитом контекста: короче мышление, больше места на входные данные и на ответ.
Ориентиры из анонса: Swift Flash Next ускоряется в 1,8 раза при потере 0,2% на xhigh, Swift1.5 27B прибавляет 0,35% к оценке при -58,5% thinking-токенов.
Когда базовая Qwen может быть предпочтительнее
Swift это версия, заточенная под эффективность, а не замена базовой модели во всех случаях. Если задача требует максимально длинных цепочек рассуждений, например сложные математические выкладки или многошаговый аудит, сокращение мышления может обернуться потерей глубины. Дополнительный фактор: Swift Bonsai 2 помечена как экспериментальная, а 9B-вариант пока не выпущен. Решение без прогона на своих данных принимать рискованно: возьмите 20-30 типовых задач, прогоните базовую и Swift-версию, сравните качество ответа, время до завершения и число сгенерированных токенов.
Ограничения и открытые вопросы семейства Swift
Материал собран по официальному анонсу UkisAI. Независимых тестов, кроме заявленных самими разработчиками цифр, в распоряжении редакции нет, поэтому все проценты это результаты лаборатории, а не сторонняя проверка.
Что осталось за кадром анонса
- Лицензия моделей не указана.
- Требования к VRAM для конкретных версий и квантизаций не раскрыты.
- Нет данных о поведении на русскоязычных задачах.
- Нет информации о поддержке конкретных фреймворков и раннеров помимо перечисленных форматов квантизации.
- Swift Bonsai 2 помечена как экспериментальная, 9B-вариант только анонсирован.
- Детали обучения (данные, гиперпараметры, длительность) не опубликованы.
Что делать дальше: начните с Research API или HuggingFace Spaces, чтобы посмотреть на поведение модели на своих промптах, затем скачайте подходящую квантизацию и сравните с базовой Qwen по трём метрикам: качество ответа, время до завершения и число сгенерированных токенов. Для агентных сценариев отдельно фиксируйте долю задач, доведённых до конца.