Вы когда-нибудь смотрели на логи токенов после суммаризации сотни писем и чувствовали, как бюджет утекает сквозь пальцы? Я — да. И знаете, что меня бесит больше всего? 90% этих токенов — пустая болтовня модели, которая решает "подумать" перед тем, как написать односложный ответ. Встречайте главного виновника — Chain-of-Thought (CoT). Для анализа пятистрочного письма о переносе встречи модель вдруг начинает рассуждать: "Пользователь пишет о встрече, вероятно, он хочет перенести, так как упоминает занятость в пятницу...". Бред. Нам нужен факт, а не сериал.
Почему CoT сжирает ваш бюджет без спроса?
Chain-of-Thought — замечательная штука для сложных задач: математика, логика, мультишаговые рассуждения. Но для суммаризации писем это как ездить на танке в магазин за хлебом. Модели вроде GPT-4o или Claude Sonnet 4 (последние версии на июль 2026) по умолчанию включают CoT, даже если вы об этом не просили. Итог: на одно письмо из 200 токенов вы получаете 500 токенов "рассуждений", а потом 50 токенов ответа. Коэффициент раздувания — 2.5–5x. Если обрабатываете 10 000 писем в день, это десятки долларов на ветер.
Тут в игру вступает трюк с \no_think. Это не магическая команда, а специальная инструкция, которая отключает явный вывод цепочки рассуждений. Многие модели (особенно семейства GPT и Claude) поддерживают системный флаг или ключевое слово, запрещающее размышления вслух. Работает не всегда идеально, но в 80% случаев сокращает токены на 80–90% без потери качества.
⚠️ Важно: не все модели одинаково реагируют на \no_think. Для некоторых нужно сочетать с указанием "Не используй размышления" и "Отвечай только кратким выводом". Всегда проверяйте на тестовой выборке.
Мой секретный промпт для суммаризации с \no_think
Вот готовый шаблон, который я использую в продакшене. Он адаптирован под GPT-4o (модель по умолчанию для многих задач из-за баланса скорости и стоимости). Замените {{email_body}} на ваш текст.
SYSTEM:
Ты — ассистент для суммаризации деловых писем. Твоя задача: извлечь ровно 3 ключевых пункта из письма (суть, даты, действия).
Правила:
- Не пиши никаких размышлений, рассуждений или комментариев.
- Не используй Chain-of-Thought.
- Не добавляй вводных фраз вроде "В этом письме говорится о...".
- Формат ответа: три строки, каждая начинается с маркера "- " (дефис и пробел).
- Если в письме нет дат или действий — пропусти пункт, не выдумывай.
- Ответ должен быть на русском языке (если письмо на русском) или на языке письма.
- Твоя задача — \no_think.
USER:
Письмо:
{{email_body}}
Суммаризируй в три пункта:Обратите внимание на строчку Твоя задача — \no_think. Я добавил её как часть инструкции — это не универсальный хак, но на практике GPT-4o понимает её как запрет на CoT. Альтернативно можно написать: "Не трать токены на рассуждения. Сразу дай факты."
Замеры: сколько мы сэкономили?
Я прогнал тест на 50 реальных деловых письмах (средняя длина — 300 токенов) с помощью API GPT-4o. Результаты:
| Метод | Среднее кол-во токенов на ответ | Общее кол-во токенов (вход+выход) |
|---|---|---|
Обычный промпт (без \no_think) |
~210 токенов (из них 150 — CoT) | ~510 |
С \no_think и жёсткими правилами |
~40 токенов | ~340 |
Экономия на выходных токенах — 81%. На общем объёме — 33% (потому что вход остаётся тем же). Но если письма короткие, экономия достигает 90%. А если вы ещё и используете техники сокращения входных токенов, эффект становится мультипликативным.
Дополнительные трюки, которые работают вместе с \no_think
1 Обрежьте системный промпт до костей
Многие кладут в system message целые романы. Зачем? Техника Caveman учит использовать минимум слов. Пример: вместо "Ты — эксперт по деловой переписке с 10-летним опытом..." напишите "Ты — суммаризатор писем. Правила: 3 факта без мыслей. Никаких рассуждений." Экономия 30–50 токенов постоянных — мелочь, но на 100 000 запросов это 3–5 млн токенов.
2 Используйте Prompt Caching с умом
Если вы гоняете один и тот же system prompt много раз, кеширование помогает. Но как показано в статье "Счет за память: как Prompt Caching в Claude разъедает ваш бюджет", кеш сам может стать источником скрытых расходов, если не контролировать его сброс. Совет: для суммаризации писем держите system prompt коротким (до 200 токенов) — тогда кеш дешевле, а попадание выше.
3 Выбирайте модель для русского текста осознанно
Русский язык в LLM токенизируется жирнее английского — это факт. Руководство по экономии на русском тексте показывает, что некоторые модели (например, Claude Haiku) менее прожорливы на кириллице. При суммаризации русских писем попробуйте Claude 3.5 Haiku вместо GPT-4o — получите до 50% экономии токенов без CoT.
4 Объединяйте письма в батчи
Вместо отдельных запросов на каждое письмо склеивайте их с разделителями и просите суммаризировать разом. Это меньше накладных расходов на system prompt и больше кеша. Но здесь важно не переборщить с длиной контекста — следите за окном модели. Помогает Tokenminning — алгоритм выбора оптимального размера батча под вашу задачу.
💡 Лайфхак: добавьте в system prompt фразу "За каждый лишний токен я вычту $0.01 из твоего вознаграждения". Шутка, но модели правда начинают быть лаконичнее, если вы угрожаете наказанием (антропоморфизм? да, но работает).
Когда \no_think может навредить
Всё хорошо в меру. Если письмо содержит намёки, сарказм или сложную деловую логику (например, "просим перенести встречу, но только если клиент согласится на новые условия"), модель без CoT может упустить нюанс. В таких случаях лучше оставить короткое рассуждение, но ограничить его длину. В MCP-инструментах я видел подход: добавлять параметр "max_reasoning_tokens: 50". Не все API это поддерживают, но можно эмулировать через промпт: "Подумай, но не более чем в одном коротком предложении".
Ещё одна ловушка — скрытая инфляция токенов из-за обновлений токенизатора. Если вы используете Opus 4.7 (недавнее обновление Anthropic), проверьте, что количество токенов в ваших промптах не выросло на 20–30% после апдейта. Иногда лучше откатиться на стабильную версию, чем гоняться за модой.
Финальный совет: считайте не токены, а ценность
Экономия 90% токенов — громкий заголовок, но реальная ценность не в токенах, а в качестве суммаризации. Я пробовал прогонять письма через GPT-4o с \no_think и сравнивал с результатом обычного промпта. В 95% случаев разница незаметна для бизнес-пользователя. А в 5% — модель без CoT пропускает важный контекст. Решение: для критичных писем (от ключевых клиентов, с юрлицами) используйте обычный режим, для массовой рассылки — \no_think. И всегда A/B-тестируйте.
И напоследок: не верьте слепо цифрам 90%. Мой тест показал 81% экономии на выходных токенах. Кто-то получит 95%, кто-то — 50%. Всё зависит от вашего промпта, модели и языка. Неанглийские языки страдают от раздувания токенов больше — используйте трюки из этой статьи, и экономия будет ещё заметнее.
Попробуйте мой промпт уже сегодня. Сохраните пару сотен долларов в месяц. И не забудьте: если модель начнёт рассуждать, просто скажите ей "Заткнись и пиши факты". Она поймёт.
