LLM-балаболка на поводке
Слушайте, ну сколько можно. Каждый раз одно и то же: даешь GPT-4 или Claude 4 задачу заказать пиццу, а он начинает рассуждать о смысле бытия, сворачивает на экзистенциальный кризис и в итоге выдумывает несуществующий номер телефона пиццерии. Галлюцинации, блуждание мысли, потеря контекста — это не баги, это фича больших языковых моделей. Они не умеют держать себя в рамках, потому что их архитектура — это сплошной поток токенов, а не жесткий сценарий.
В начале 2026 года эту проблему попытались решить детерминированные движки рассуждений, но они работали через внешние правила, а не встраивали их в саму логику модели. SymFSM (Symbolic Finite State Machine) предлагает нечто иное: посадить LLM на диету из формальных состояний и переходов. Зачем? Чтобы мышление стало вычислимым, а не гадательным.
Ключевая идея SymFSM: LLM не генерирует свободный текст, а выбирает следующий шаг из предопределенного набора состояний. Каждый переход триггерится событием — распознанным намерением, внешним вызовом API, условием из контекста.
Как это выглядит на практике (спойлер: скучно и надежно)
Представьте себе агента для бронирования отелей. Без SymFSM вы просите "забронируй номер", и LLM может начать рассказывать, какой отель он посетил в детстве, придумать цену и даже выдумать подтверждение. С SymFSM вы описываете граф состояний: INIT → SEARCH → SELECT → CONFIRM → PAY → DONE. На каждом шаге LLM получает строгие инструкции, какие поля заполнить, какие данные запросить у пользователя, куда отправить запрос. Если модель вдруг хочет свернуть на поэзию — автомат не дает: нет перехода "TALK_ABOUT_POETRY", значит, такого токена не будет.
Вот тут и возникает параллель с State Flow Machine, которая тоже оперирует состояниями, но на уровне замены самого трансформера. SymFSM, в отличие от неё, работает как надстройка — не ломает архитектуру, а оборачивает её в клетку из правил.
Где зарыта собака (или почему это не серебряная пуля)
Звучит логично, но есть нюанс. Конечные автоматы требуют заранее определенного числа состояний и переходов. А что, если агент сталкивается с неожиданным запросом? Например, пользователь говорит: "А можно не бронировать, а просто посмотреть цены за прошлый месяц?". В классическом FSM такого перехода нет — агент зависнет. Поэтому SymFSM вводит механизм "State Expansion" — LLM может динамически создать новое состояние, но с одобрения внешнего валидатора. Это компромисс между гибкостью и контролем.
И вот тут в игру вступает другая линия развития — латентное рассуждение и Multiplex Thinking, которые пытаются оставить LLM свободу, но внутри структурировать скрытые представления. SymFSM, напротив, навязывает структуру снаружи. Две философии: заставить модель думать по правилам (FSM) vs научить её думать в скрытом пространстве правил (latent reasoning). Конфликт неизбежен, и в итоге, вероятно, появится гибрид.
Плюс нельзя не вспомнить KEF-фреймворк, который дешево прокачивает reasoning, но не навязывает архитектуру. SymFSM с его формализмом может быть дороже в разработке, но дает гарантии предсказуемости.
Как это сочетается с текущими трендами
В 2026 году индустрия разделилась на два лагеря: одни пытаются победить галлюцинации через better prompting и внешние инструменты, другие — через изменение архитектуры. SymFSM — это третий путь: обернуть существующую архитектуру в формальный каркас. Интересно, что этот подход неплохо стыкуется с концепцией интерпретируемой памяти — состояния FSM могут храниться в явных ячейках памяти, что делает всю цепочку рассуждения прозрачной. А в паре с Nova Forge от AWS, которая позволяет дообучать модель без катастрофического забывания, можно зашить типовые графы состояний прямо в веса.
Но есть подозрение
Мне кажется, основной проблемой SymFSM станет не техническая реализация, а UX. Если мы заставим LLM ходить только по рельсам, пользователь быстро поймет, что агент — это просто скрипт с красивым интерфейсом. Где же та самая магия, за которую мы любим LLM? В способности неожиданно ответить, удивить, придумать что-то новое. SymFSM эту магию убивает на корню. И это, возможно, правильно для критических приложений — медицина, финансы, безопасность. Но для творческих задач такой подход — смерть.
Мой прогноз: к осени 2026 мы увидим фреймворки, которые объединят SymFSM с механизмами латентного рассуждения. Первые решают, когда включать креатив, вторые — как его контролировать. В любом случае, конечные автоматы в AI уже не игрушка — это архитектурный приём, который перерастёт в стандарт для агентов.
