Tessera-27B-B-CJK - дообученная версия Qwen3.8-27B от Zellige AI: рассуждения идут на сжатом CJK-шорткате, ответы и вызовы инструментов остаются на обычном английском и коде. Веса открыты под Apache-2.0, и это первый полноценный дроп линейки Tessera. По заявлению авторов, на 11 отложенных задачах кодинг-агента при xhigh effort модель тратит 0.50-0.64x thinking-токенов базовой Qwen3.8-27B на ход, сохраняя 100% валидных вызовов инструментов и ноль циклов повторения на 88 совпавших ходах (анонс в r/LocalLLaMA).
Практический интерес здесь в стоимости инференса. Агентный цикл платит за thinking на каждом шаге: модель прочитала файл, подумала, вызвала инструмент, получила результат и снова думает. На сессии из десятков ходов сжатие рассуждений примерно вдвое экономит время и деньги, если при этом не проседает качество вызовов инструментов. Tessera построена под этот сценарий.
Универсальным апгрейдом над Qwen это не назвать. Для соревновательной математики и сложного алгоритмического кода авторы советуют оставаться на базовой модели: там Tessera показывает худшие результаты и чаще зацикливается. Ниже - цифры, пайплайн обучения и то, что осталось непроверенным.
Что такое Tessera-27B-B-CJK и зачем она нужна
Tessera-27B-B-CJK - это Qwen3.8-27B, дообученная под кодинг-агентов. Модель думает на сжатом CJK-шорткате, смеси английских и китайских слов с символами, а наружу отдаёт нормальный английский текст и код. Харнесс, который вызывает модель, видит обычный вывод: thinking и output разделены специально, чтобы ничего не ломалось на уровне инструментов.
Tessera - линейка моделей и тюнов Zellige AI, в которой авторы пробуют разные способы экономить токены и запускать модели эффективнее. Нынешний дроп первый в серии.
Почему именно сжатый CJK-шорткат
Причина простая: агентный цикл платит за thinking на каждом ходу, а не один раз за диалог. Сократить рассуждение значит сократить счёт за сессию.
Почему CJK, а не сжатый английский? В анонсе это подробно не разворачивается, но логика читается: иероглифы в токенизаторах Qwen часто укладываются в один токен и несут больше смысла на токен, чем английские словоформы. Отсюда и шорткат: короткие китайские пометки, английские идентификаторы, которые нельзя искажать, и символы-разделители.
Живой пример из отложенной задачи: 27 токенов перед двумя вызовами инструментов.
查看`linter`包; 查`FileWalker`; 查checker在`checkers`包中如何注册.
Базовая Qwen3.8-27B на том же шаге потратила 137 токенов. Этот ход короче большинства, типичный укладывается примерно в половину базового.
Подход напоминает thinkingcap от bottlecap ai, о чём авторы говорят сами. Разница в планах: Zellige AI собирается развивать тему дальше и показывать больше способов экономии токенов в линейке Tessera.
Сколько токенов экономит Tessera: цифры и методика
Все замеры идут против необученной Qwen3.8-27B на тех же входах, на 11 отложенных задачах кодинг-агента при xhigh effort.
| Метрика | Результат Tessera относительно базовой Qwen3.8-27B |
|---|---|
| Thinking-токены на агентный ход | 0.50-0.64x |
| Типичный ход | 0.496x, 90% доверительный интервал 0.385-0.624 |
| Token-weighted по ходам | 0.644x |
| Валидные вызовы инструментов | 100% на 88 совпавших ходах |
| Циклы повторения | 0 |
Важная оговорка: это данные авторов, а не независимое воспроизведение. Ниже методика, по которой их можно оценить.
Как считали: 11 задач, xhigh effort и token-weighted метрика
Условия: 11 отложенных задач кодинг-агента, одинаковые входы для обеих моделей, режим xhigh effort. Метрик здесь две. Типичный ход - усреднение по ходам, каждый шаг агента весит одинаково. Token-weighted метрика весит каждый ход по числу токенов, поэтому длинные размышления влияют на результат сильнее. Разница между 0.496x и 0.644x как раз отсюда: Tessera сжимает типичный ход почти вдвое, но на отдельных длинных ходах экономия скромнее, и token-weighted это показывает.
Доверительный интервал для типичного хода 0.385-0.624 при 90% уровне. Ширина интервала говорит о размере выборки: 11 задач, разброс по ходам заметный. Для прикидки экономии в своих сценариях цифра годится, для точного бюджета - нет (источник с разбором замеров).
Оценка проведена только на bf16-весах. Это ограничение методики, а не деталь оформления: квантованные версии могут вести себя иначе.
Как обучали Tessera: четыре LoRA-этапа на Tinker
Обучение состояло из четырёх коротких LoRA-этапов на Tinker. Все этапы построены на собственных выходах базовой модели, внешние размеченные данные не потребовались.
- Seed SFT. Рассуждения базовой модели переписали в сжатый CJK и на этом построили стартовый SFT.
- Token-level anti-loop фикс. Отдельный этап против зацикливания на уровне токенов.
- Агентный SFT. Дообучение на агентных траекториях с вызовами инструментов.
- Rejection sampling. Отбор самых коротких чистых роллаутов для финального прохода.
Авторы описывают в статье полный пайплайн, оценки и отдельно то, что не сработало. Последнее обычно интереснее списка успехов: по нему видно, какие гипотезы о сжатии рассуждений не выдержали проверки.
Почему обучение шло на выходах самой базовой модели
Такой подход снимает две проблемы сразу. Не нужен корпус человеческих рассуждений: модель учится на своём же стиле, только сжатом. Сжимать собственные выходы проще, чем переписывать чужие: структура шагов и смысл сохраняются, а формулировки укорачиваются.
Rejection sampling замыкает схему: из множества сгенерированных роллаутов в финальное обучение попадают только самые короткие и чистые. Модель получает сигнал, что краткость без потери корректности поощряется.
Схожий по цели пример из другой работы: файнтюн Swift-Qwen3.8-27B, где reasoning-токены резали штрафом за маркеры размышлений и получили экономию 30-50%. Механика там другая, RL по маркерам, но результат по духу близкий.
Качество не пострадало: валидные вызовы инструментов и отсутствие циклов
Экономия токенов полезна ровно до момента, когда агент начинает ошибаться в вызовах инструментов. Этого авторы не допустили: 100% валидных вызовов инструментов и ноль циклов повторения на 88 совпавших ходах, то есть на тех шагах, которые удалось сопоставить с базовой моделью напрямую.
На длинном контексте поведение держится: 6 из 6 валидных вызовов инструментов на промптах объёмом 101K-131K токенов. Тестов на промптах длиннее 131K меньше, но в тех немногих, что были сделаны, результаты держались отлично.
Для агентного цикла это ключевая метрика. Ошибка в вызове инструмента ломает весь процесс: агент получает мусорный результат, тратит ещё несколько ходов на разбор и часто уходит в повтор. Ноль циклов повторения на 88 ходах означает, что сжатие рассуждений не выродилось в деградацию поведения.
Где Tessera проигрывает: математика и сложный алгоритмический код
Здесь важно не обольщаться. Модель сделана для агентных циклов, и вне этого сценария она уступает базовой Qwen3.8-27B.
Авторы прямо советуют: для соревновательной математики и сложного алгоритмического кода оставайтесь на базовой модели. На этих задачах Tessera набирает меньше баллов и чаще зацикливается. Причина, вероятно, в самом сжатии: там, где нужна длинная развёрнутая цепочка вывода, шорткат теряет промежуточные шаги.
Практический вывод: не стоит менять базовую Qwen на Tessera во всех сценариях сразу. Разумнее держать обе: базовую для математики и тяжёлых алгоритмических задач, Tessera для агентных прогонов с инструментами.
Как запустить Tessera локально: форматы, кванты и что не тестировалось
Оценивалась только bf16-модель. GGUF и NVFP4 файлы выложены, но не тестировались, и авторы просят сообщать о результатах их запуска.
В Hugging Face репозитории лежат объединённые bf16-веса, а LoRA, GGUF и NVFP4 версии доступны отдельно и открыты для скачивания. Лицензия Apache-2.0 допускает коммерческое использование.
Что нужно для запуска bf16-версии
27B параметров в bf16 это примерно 54 ГБ только на веса. Плюс KV-кэш и промежуточные буферы, которые на длинном контексте в десятки тысяч токенов добавляют ещё десятки гигабайт. Уместить модель на одну карту реально с 80 ГБ памяти (A100, H100), всё остальное требует нескольких GPU или выгрузки части слоёв в оперативную память, что бьёт по скорости.
Для домашнего железа остаются кванты, но здесь есть риск: авторы их не проверяли, а сжатие рассуждений может пострадать от квантования сильнее, чем обычный ответ. Как ведут себя разные форматы на агентных задачах, видно по разбору трёх квантов Qwen 3.8 на 16 ГБ VRAM и по тесту bf16-модели на 500+ заданиях: поведение thinking-режимов и склонность к переразмышлению заметно зависят от формата весов.
Если запускаете GGUF или NVFP4 версию Tessera, сравнивайте не только скорость, но и долю валидных вызовов инструментов: именно там сжатые рассуждения чувствительны к потере точности.
Стоит ли переходить на Tessera: практический вывод
Tessera-27B-B-CJK закрывает узкую задачу: снизить расход thinking-токенов в кодинг-агентах, где каждый ход оплачивается отдельно. Если вы гоняете агентные циклы с вызовами инструментов и упираетесь в стоимость или скорость инференса, модель стоит протестировать на своих задачах: заявленная экономия 0.50-0.64x thinking-токенов на ход при 100% валидных вызовов инструментов выглядит достаточной, чтобы оправдать проверку (анонс с полными цифрами).
Если ваши задачи - соревновательная математика или сложный алгоритмический код, оставайтесь на базовой Qwen3.8-27B: там Tessera проигрывает и зацикливается.
Перед тем как строить на модели прод, проверьте три вещи. Первое: работает ли она в вашем харнессе с теми же форматами вызова инструментов. Второе: как ведёт себя выбранный квант, ведь bf16 - единственный проверенный авторами формат. Третье: не мешает ли сжатый thinking там, где ваши задачи требуют длинных рассуждений, а не быстрых шагов агента.
Похожие по цели проекты уже есть: thinkingcap от bottlecap ai, а из экономии reasoning-токенов - Swift-1.5-Qwen3.8-Flash-Next, который в тесте пользователя через Aider потратил около 40% токенов и времени относительно базовой модели. Zellige AI обещает развивать линейку Tessera дальше, так что сравнивать будет с чем.