Что меняется в разработке AI-агентов: от задач к целям
CEO и соучредитель LangChain Харрисон Чейз описывает переход от агентов, которые выполняют отдельные задачи, к агентам, которые работают над целями. В материале From tasks to goals переход разложен на два практических сдвига: от указания действия к указанию результата и от ограниченного поручения к постоянной ответственности.
Механика работы меняется на уровне постановки. Раньше пользователь задавал задачи, теперь задаёт цель, а агент движется к ней итерациями: разбивает цель на задачи, выполняет часть, обновляет список задач и идёт дальше. Планирование переезжает от человека к модели, и это главный источник новых сложностей.
Стоимость перехода измеряется не длиной системного промпта. Нужны видимый список задач, промптинг на разнообразие идей, контроль над вызовами инструментов, канал уточняющих вопросов, метрика прогресса и способ исправить понимание успеха. Каждый пункт - отдельная инженерная или интерфейсная задача.
Разница в формулировках видна на примерах. Задачи: «напиши это письмо», «составь черновик этого блога», «исправь этот баг». Цели: «снизь мою нагрузку по координации, сохраняя важные обязательства в графике», «веди блог», «сделай этот продукт успешным». В первом случае вы проверяете результат одного шага, во втором оцениваете, приблизился ли агент к состоянию, которое описали словами.
Два сдвига: от действия к результату и от поручения к ответственности
Первый сдвиг: пользователь описывает результат, а не шаг. Формулировка «отправь письмо» задаёт действие и заранее определяет инструмент. Формулировка «снизь нагрузку по координации» задаёт состояние, а способ его достичь агент выбирает сам.
Второй сдвиг: поручение перестаёт быть ограниченным. Задача закрывается и забывается, цель остаётся у агента как постоянная ответственность: он возвращается к ней, проверяет, что изменилось, и обновляет план. Отсюда следует, что у цели нет естественной точки «готово», пока человек не описал критерий.
Роль пользователя меняется вместе с этим. Вместо пошагового плана он задаёт цель, правила и границы, а план появляется на стороне агента. Практический вывод: если нет формулировки результата и правил остановки, переход к целям превратит агента в генератор активности без понятного финала.
Почему это не просто «больший промпт»
Соблазн объяснить переход просто: добавить в промпт абзац про цель и автономность. На практике добавляются шесть отдельных слоёв работы.
- Наблюдаемость: список задач агента и его статусы.
- Промптинг на креативность: агент должен предлагать разные задачи, а не повторять один и тот же набор.
- Контроль инструментов: правила, какие вызовы разрешены, какие требуют подтверждения.
- Канал вопросов: у фонового агента должна быть возможность спросить человека.
- Обратная связь: метрика прогресса и явная оценка от человека.
- Дизайн цели: критерий успеха и способ его исправить.
Каждый слой требует кода и интерфейса. Список задач - модель данных и UI. Контроль инструментов - политика доступа и аудит вызовов. Канал вопросов - интеграция со Slack или отдельный экран. Без этих слоёв агент с целью работает, но проверить и остановить его сложно.
Как агент декомпозирует цель на задачи и как это контролировать
Цикл выглядит так: цель от пользователя, декомпозиция на задачи, выполнение части задач, обновление списка, следующая итерация. Чейз описывает именно итеративный процесс, а не один длинный план, посчитанный заранее.
Список дел агента: зачем он нужен и что в нём фиксировать
Практическое требование из материала: нужен способ видеть, какие задачи выполняет агент, например список дел. Это рабочий инструмент для обеих сторон. Агент сверяется с ним между итерациями, человек по нему понимает, чем занята система и где она застряла.
Минимальный набор полей, который окупается: формулировка задачи, статус (запланирована, в работе, выполнена, отброшена), причина отбрасывания и ссылка на артефакт: письмо, коммит, документ, сообщение. Причина отбрасывания важнее статуса: она показывает, агент отказался от задачи осознанно или просто потерял её.
Креативность в выборе задач: как поощрять и как ловить повторы
Чейз отмечает, что агент должен быть изобретательным и разнообразным в мозговом штурме задач. Если он снова и снова предлагает одно и то же, это плохой сигнал: список задач превращается в ритуал, а движение к цели останавливается.
Рабочая практика: сохранять списки задач по итерациям и сравнивать соседние. Правило простое - новая итерация приносит новые формулировки либо обоснование, почему задача повторяется. Второй приём: явно просить в промпте альтернативные подходы к цели, а не только следующий шаг по текущему плану.
Непредсказуемые вызовы инструментов: почему при цели всё сложнее
При задаче «отправь письмо» агент, скорее всего, вызовет Gmail и, возможно, инструмент календаря. Набор вызовов предсказуем, его можно проверить до запуска. При цели «снизь мою нагрузку по координации» заранее неизвестно, когда понадобятся почта, мессенджеры, поиск, браузер или что-то ещё. Чейз формулирует это прямо: при работе над целью вы не знаете, какие инструменты агент вызовет, и можете не знать, какие ему вообще понадобятся (From tasks to goals).
Отсюда требование: больше контроля над тем, какие инструменты агент может или не может вызывать. Политика доступа к инструментам становится частью дизайна агента, а не патчем после первого инцидента.
Практические механизмы ограничения доступа к инструментам
- Белые и чёрные списки: явный перечень разрешённых инструментов вместо доступа ко всему реестру.
- Разделение чтения и записи: агенту можно смотреть календарь, а создавать события только после подтверждения.
- Подтверждение необратимых действий: отправка письма, удаление файла, платёж проходят через человека.
- Ограничение области: доступ к одному аккаунту или папке вместо всего рабочего пространства.
- Аудит вызовов: журнал с аргументами и результатом, чтобы разбирать инциденты по факту, а не по памяти.
Ограничение: жёсткие правила снижают гибкость. Агент, которому разрешено только чтение, не выполнит половину целей, связанных с координацией. Баланс настраивают под риск конкретного инструмента: чтение открывают шире, запись и деньги держат узко.
Схожая логика разделения ролей описана в разборе Agent-Ops 0.4.0: агент предлагает действие, человек утверждает, детерминированный исполнитель применяет только допущенные шаги. Для агента с целями такой контур даёт проверяемую границу между решением и его исполнением.
Фоновый агент должен уметь задавать вопросы человеку
Агент, который работает над целью в фоне, регулярно упирается в нехватку контекста: какой дедлайн считать важным, кому адресовать письмо, что делать с конфликтом в календаре. Чейз перечисляет два канала для уточнений: Slack или специальный интерфейс. Без такого канала агент заполняет пробелы догадками, и вы узнаёте об этом по результату.
В канале вопросов стоит держать пять элементов: конкретный вопрос, контекст со ссылками, варианты ответа, дефолтное поведение при молчании и срок, после которого дефолт применяется. Варианты ответа важнее свободного текста: они снижают стоимость реакции и уменьшают шанс, что ответ поймут неправильно.
Ограничение, которое полезно проговорить вслух: если правила «что делать, если никто не ответил» нет, агент либо встанет, либо начнёт угадывать. Оба сценария рабочие, но выбрать нужно осознанно. Для целей с необратимыми действиями разумнее остановка, для рутинных сводок - дефолт с уведомлением.
Практический пример распределения ролей есть в разборе агентов в Jira: виртуальные исполнители работают с задачами, но ревью и доступы остаются за человеком. Тот же принцип переносится на фонового агента с целью: он спрашивает, человек отвечает, доступы ограничены заранее.
Обратная связь и метрики прогресса: как не оптимизировать вслепую
Агенту нужен сигнал, движется он или стоит. Чейз называет два источника: проверка метрики и явная обратная связь от человека. Оговорка важнее самого перечня: слепо оптимизировать метрику неразумно, поэтому человеческая оценка может оказаться лучшим вариантом (From tasks to goals).
Причина в природе метрики. Любое число служит прокси для результата, и агент, который видит только число, учится улучшать число. Явная обратная связь возвращает в контур то, что не оцифровано: качество писем, уместность тона, соблюдение обязательств перед людьми.
Практическая схема: метрика служит индикатором для агента между итерациями, человек проверяет работу по расписанию и корректирует курс. Полезно фиксировать, как агент сам оценивает прогресс: если его оценка расходится с вашей, проблема в критерии, а не в агенте.
Как проектировать цель, чтобы обратную связь было легко давать
Чейз советует проектировать цели так, чтобы обратную связь было удобно давать, и заранее определить, как агент будет оценивать прогресс. Второе требование к цели: у человека должен быть способ исправить интерпретацию успеха.
Пример. Цель «снизь мою нагрузку по координации» без критерия допускает десяток трактовок: меньше встреч, меньше писем, больше делегирования. Критерий превращает цель в проверяемую: «к концу недели в календаре не больше пяти встреч, на письма с внешними партнёрами отвечаю не позже дня». Тогда агент понимает, к чему идти, а вы понимаете, что именно оцениваете.
Подробнее про связь формулировки цели с качеством обратной связи разобрано в материале про goal engineering: границы агента стоит задавать так, чтобы человеку было удобно давать экспертный фидбэк, а узким местом часто оказывается скорость обучения на этом фидбэке, а не возможности модели.
Что это значит для вашего проекта: чек-лист перед делегированием цели
Семь вопросов, которые стоит закрыть до того, как отдать агенту цель, а не отдельную задачу.
| Пункт | Что проверить | Что будет, если пропустить |
|---|---|---|
| Цель как результат | Формулировка описывает состояние, а не шаг | Агент выполнит одно действие и остановится |
| Видимый список задач | Есть список дел со статусами и ссылками на артефакты | Непонятно, чем занята система и где застряла |
| Разнообразие задач | В промпте есть запрос на альтернативные подходы, списки сравниваются между итерациями | Агент крутится на одних и тех же действиях |
| Доступ к инструментам | Есть белый список, разделение чтения и записи, подтверждение необратимых вызовов, аудит | Одна ошибка стоит денег или репутации |
| Канал вопросов | Агент может спросить через Slack или отдельный интерфейс, есть дефолт при молчании | Агент додумывает контекст или висит без ответа |
| Прогресс и обратная связь | Есть метрика-индикатор и регулярная проверка человеком | Агент улучшает число вместо результата |
| Интерпретация успеха | Критерий описан словами, и его можно исправить | Спор о результате после недели работы |
Если по трём и более пунктам ответ «нет», начинайте с одной цели с коротким горизонтом и одним ограничением на инструменты. Такой запуск дешевле, а провал виден за день, а не за месяц. Проектирование среды вокруг агента, где границы и проверки важнее текста промпта, подробно разобрано в материале про средовой подход.
Что осталось за рамками разбора
В доступном фрагменте материала Харрисона Чейза нет разделов о триггерах запуска (heartbeat, cron, события), правилах остановки и памяти между запусками. Текст обрывается на разделе об обратной связи, поэтому приписывать источнику схемы запуска и хранения состояния нельзя.
Эти темы логично продолжать, и вопросы к ним уже понятны. Как часто агент просыпается: по расписанию, по событию или по heartbeat? По какому признаку он останавливается: цель достигнута, бюджет итераций исчерпан, человек снял задачу? Что запоминать между запусками, чтобы решения и фидбэк не терялись?
Ответы на них придётся проектировать под свою задачу. Если нужен агент, который работает над целью неделями, начните с журнала задач и одного явного критерия остановки. Это минимальный набор, без которого автономия превращается в неоплаченный кредит доверия.