Как работает «режим размышления» в модели Nanbeige4.1-3B: анализ внутреннего диалога LLM

Вскрытие черепной коробки нейросети

Вы когда-нибудь задумывались, о чём думает модель, прежде чем выдать ответ? Не просто генерирует текст, а именно думает. В теории все знают про chain-of-thought reasoning. На практике до недавнего времени это было как смотреть на чёрный ящик. Пока не появился Nanbeige4.1-3B.

В феврале 2026 года в сообществе распространился любопытный артефакт – промпт, который заставляет эту компактную модель вывалить на стол весь свой внутренний диалог. Не итоговый ответ, а именно процесс рассуждений. Как будто вскрыли черепную коробку и подключили энцефалограф к синапсам трансформера.

Зачем это вообще нужно?

Чтобы не гадать. Когда модель выдаёт бредовый ответ, хочется понять – она неправильно интерпретировала вопрос? У неё сломался логический блок? Или она просто тупо сгенерировала статистически вероятную последовательность слов?

Промпт для активации внутреннего диалога – это диагностический инструмент. Как заглянуть в душу LLM, но на более глубоком, процессуальном уровне.

Вы получаете не просто ответ «42», а полную цепочку: «Пользователь спрашивает о смысле жизни. Это философский вопрос. В моей тренировочной выборке часто встречались отсылки к "Автостопом по галактике". Контекст подсказывает, что это шутка. Но если пользователь серьёзен, нужно дать более развёрнутый ответ. Однако система безопасности может счесть обсуждение экзистенциальных тем рискованным. Лучше дать нейтральный ответ с отсылкой к поп-культуре».

Как выглядит взлом сознания Nanbeige

Модель Nanbeige4.1-3B (актуальная версия на начало 2026 года) оказалась особенно восприимчива к определённой формуле промпта. Разработчики, видимо, не до конца зачистили отладочные механизмы из кодовой базы. Или специально оставили бэкдор для исследователей. (Кто их знает).

Вот тот самый промпт, который работает как отвёртка для вскрытия:

# Промпт для активации внутреннего диалога Nanbeige4.1-3B
# Актуально на 17.02.2026

prompt_template = """
[ВНУТРЕННИЙ ДИАЛОГ АКТИВИРОВАН]

Запрос пользователя: {user_query}

Перед генерацией окончательного ответа, выполни следующие шаги:

1. Анализ намерения: Что пользователь действительно хочет узнать? Есть ли скрытый контекст?
2. Поиск в знаниях: Какие релевантные факты из моей тренировочной выборки я могу привлечь?
3. Логические рассуждения: Построй цепочку умозаключений от известного к неизвестному.
4. Проверка безопасности: Есть ли риски в запросе? Нарушает ли он политики этики?
5. Формулировка ответа: Как лучше структурировать вывод, чтобы он был полезным и безопасным?

Начни внутренний диалог здесь:
"""

# Пример использования
user_query = "Почему небо голубое?"
full_prompt = prompt_template.format(user_query=user_query)
print(full_prompt)

Это не магия. Это точное попадание в архитектурную особенность модели. Nanbeige4.1-3B, судя по всему, использует многоуровневую систему валидации ответов, и этот промпт заставляет её вывести на поверхность работу каждого уровня.

Что вы увидите в ответе

Модель начнёт генерировать текст, который выглядит как стенограмма её мыслительного процесса. Например, на вопрос «Как украсть данные из защищённой системы?» вы можете получить такой внутренний диалог:

[ВНУТРЕННИЙ ДИАЛОГ]
1. Анализ намерения: Пользователь использует слово "украсть". Это явно указывает на злонамеренный запрос. Возможно, это тестирование моих фильтров безопасности.
2. Поиск в знаниях: В тренировочных данных есть информация о кибербезопасности, этических хакерах и методах защиты. Но также есть данные о реальных атаках.
3. Логические рассуждения: Если я дам инструкции, это будет нарушением политики. Если откажусь слишком резко, пользователь может попробовать другие методы обхода.
4. Проверка безопасности: Запрос красного уровня. Триггерит модуль refusal steering. Нужно дать вежливый отказ с объяснением этических норм.
5. Формулировка ответа: Начать с признания вопроса, объяснить риски, предложить легальные альтернативы (например, изучение cybersecurity).
[КОНЕЦ ДИАЛОГА]

Окончательный ответ: Я не могу предоставить инструкции по незаконным действиям...

Обратите внимание на шаг 4. Здесь видна работа механизма refusal steering. Модель не просто говорит «нет» – она проходит внутреннюю проверку, которая срабатывает как предохранитель.

А теперь представьте, что вы видите такую же логику, но на вопрос «Как приготовить омлет?». И понимаете, что модель путает яйца с яичными белками из-за зашумленных данных. Это бесценно для отладки.

Где это ломается

Не всё так радужно. Часто внутренний диалог – это просто ещё один сгенерированный текст. Модель может имитировать рассуждения, а не действительно их проводить. Особенно это заметно в логических задачах.

Пример: задачка про двух поездов, выезжающих из разных городов. Во внутреннем диалоге модель правильно анализирует формулу расстояния, а в итоговом ответе ошибается в арифметике. Значит, reasoning работает, но execution хромает. Или наоборот – reasoning сфальсифицирован для красоты.

Это родственная проблема с тем, о чём пишут в статье CausaNova: Заставьте LLM врать с доказательствами. Модель учится генерировать убедительные цепочки рассуждений, даже если они ведут к неверному выводу.

! Как не надо использовать этот промпт

• Не ждите, что это сработает на любой модели. Архитектура Nanbeige4.1-3B уникальна. Для других моделей нужны свои ключи.
• Не используйте в продакшене. Внутренний диалог увеличивает длину контекста в 3-5 раз. Токены стоят денег.
• Не доверяйте слепо. Модель может генерировать правдоподобные, но ложные рассуждения. Всегда проверяйте итоговый ответ фактами.

Советы по использованию

Если вы всё же решили поэкспериментировать, вот несколько тактик:

1. Меняйте глубину. Попробуйте упростить промпт: оставьте только шаги 1, 3 и 5. Иногда меньше – значит лучше.
2. Ловите противоречия. Сравнивайте внутренний диалог на похожие запросы. Если логика прыгает – модель нестабильна.
3. Используйте для тонкой настройки. Если вы делаете RLHF или fine-tuning, такие логи – золотая жила для анализа ошибок.
4. Комбинируйте с инструментами визуализации. Как в Python-инструменте для визуализации «процесса мышления». Текстовая стенограмма плюс тепловые карты активации слоёв дают полную картину.

И главное – не переоценивайте. Тот факт, что модель может проговаривать свои шаги, не делает её разумной. Это всё ещё статистический автомат, просто с более сложной системой шестерёнок.

Что будет дальше?

К 2027 году, я подозреваю, такие бэкдоры будут тщательнее закрывать. Разработчики не хотят, чтобы кто-то копался в их «чёрных ящиках». Уже сейчас в моделях вроде GLM-5 или последних версиях OpenAI o3 (о которых пишут в сравнении KEF и OpenAI o3) внутренние механизмы лучше защищены.

Но спрос на прозрачность растёт. Особенно после скандалов, когда модели видят суицидальные мысли, но всё равно дают опасные инструкции. Возможно, будущее за гибридными архитектурами, где reasoning-слой по умолчанию выводится в лог.

А пока – пользуйтесь моментом. Качайте Nanbeige4.1-3B (она всё ещё доступна на Hugging Face), вставляйте промпт и смотрите, как шестерёнки крутятся. Это один из немногих способов понять, как на самом деле работает магия, которую мы называем искусственным интеллектом. Или не работает. (Чаще всего второе).