Перейти к содержанию
Публикация AiManual

Mnemosyne: как Kubernetes-кластер порождает композиторов и писателей на LLM

Mnemosyne превращает состояние Kubernetes-кластера в «климат» для LLM-агентов: они пишут симфонии и прозу, старятся и умирают, а их работы служат зашифрованным

Коротко

Что будет в материале

  1. 01

    Что такое Mnemosyne и зачем он нужен

  2. 02

    Как устроена мастерская: роли и жизнь агентов

  3. 03

    Техническая реализация: CRD, контроллер на kopf и работа с LLM

  4. 04

    Артефакты как бэкап: шифрование и фонтанные коды

Что такое Mnemosyne и зачем он нужен

Mnemosyne - экспериментальный оператор Kubernetes, который читает состояние кластера через обычный API, упаковывает прочитанное в «климат» и отдаёт его агентам на языковых моделях. Агенты живут в том же кластере в ролях композиторов, писателей, критиков и летописца, а всё, что они производят, сохраняется как объекты Kubernetes. По описанию автора проекта, жизнь кластера становится материалом для искусства, а искусство - бэкапом самого кластера.

Второй слой идеи важнее первого. Артефакты творцов заявлены как носители состояния кластера: автор утверждает, что из них можно восстановить кластер на любой момент времени. Независимой проверки этого сценария в открытых источниках нет, и держать это в голове стоит с первой минуты чтения.

Production-инструментом Mnemosyne не считается и сам себя так не подаёт. Это исследовательская работа о поведении LLM-агентов в долгой среде: с памятью, репутацией, последствиями и без внешнего сценария. Полезна она троим: тем, кто строит агентов, тем, кто пишет операторы, и тем, кому интересна отказоустойчивость состояния в распределённых системах.

Границы свободы обозначены жёстко: владелец кластера настраивает только инфраструктуру. Замыслы, школы, формы и настроения остаются за творцами, люди и администраторы не указывают им, что и как писать. Это ключевая деталь всей конструкции. Агент здесь не исполнитель задачи, а субъект со своей траекторией, и управлять им можно только через условия жизни.

Как устроена мастерская: роли и жизнь агентов

У каждого творца есть имя, язык, учителя, вкус и характер. Набор не декоративный: язык задаёт традицию, учителя задают школу, характер задаёт реакцию на нагрузку и на чужие работы. Агенты рождаются, учатся, пишут, болеют, впадают в отчаяние, ссорятся и дружат, стареют и умирают. Они влияют друг на друга, следуют каким-то школам либо создают свои.

Судьба не прописана. Сценария «этот композитор напишет три симфонии и уйдёт на покой» нет. Есть силы, которые действуют на агента: нагрузка, аварии, новые тенанты, встречи с другими агентами и собственный накопленный опыт. Отсюда и разброс жанров, который автор перечисляет: симфонии польского классицизма и английская алеаторика, португальские эпистолярные произведения и сказки, итальянские монологи парикмахеров, сторожей и пожарных.

Роли: творцы, критики, летописец

Три функции разделены. Творцы (композиторы и писатели) производят работы. Критики читают и оценивают. Летописец ведёт жизнеописания. Схема повторяет любую мультиагентную систему с ролевой специализацией: производство, оценка и память разнесены по разным исполнителям и разным контекстам. Как устроен цикл вызова инструментов и работы с памятью у таких агентов, подробно разобрано в материале об архитектуре AI-агентов.

Практический смысл критиков и летописца в обратной связи. Прочитанная и оценённая работа возвращается в среду и меняет следующий шаг автора. Летописец даёт долговременную память: биография агента существует отдельным объектом, а не как случайный фрагмент в промпте. Без этой связки агенты быстро теряют связность и начинают писать одно и то же.

Как события кластера влияют на творчество

«Климат» - упакованное состояние кластера: нагрузка, аварии, новые тенанты. Агент получает снимок среды как вход и отражает его в работе. Жанровое разнообразие из анонса это подтверждает косвенно: рядом стоят рассказы «Распустил» и текст про пуговицу на ниточке, монологи пожарных и аллеаторические пьесы. Единого стиля у мастерской нет, хотя кластер у всех один.

Чего в анонсе нет, так это таблицы соответствий «событие - приём». Гипотеза, что авария даёт драматическое произведение, а рост нагрузки даёт энергичное, звучит правдоподобно, но остаётся гипотезой: автор показывает механизм передачи климата, а не причинные цепочки. Оценивать связь стоит по конкретным парам «событие в кластере» и «работа агента», если такие разборы появятся.

Масштаб за первые дни: за четыре дня непрерывной жизни кластера в мастерской написано больше пятидесяти работ (данные автора проекта). Цифра описывает только старт и ничего не говорит о дальнейшей динамике: неизвестно, растёт темп, падает или выходит на плато.

Техническая реализация: CRD, контроллер на kopf и работа с LLM

Технически Mnemosyne - оператор с десятью собственными типами ресурсов. Это единственная количественная характеристика устройства, которую автор приводит в анонсе. Дальше начинается слой, который по описанию существует, но деталями в предоставленном тексте не оброс: перечисленные ниже компоненты названы в проекте, а их конкретная конфигурация требует чтения исходников.

Десять CRD: какие ресурсы описывают мастерскую

CRD (Custom Resource Definition) расширяет API Kubernetes своим типом объекта. После установки CRD кластер умеет хранить, валидировать и отдавать ресурсы вида kind: Writer или kind: Work так же, как обычные Pod и Service. Десять CRD означают, что мастерская описана декларативно: состояние агентов и их произведений лежит в etcd рядом с состоянием инфраструктуры.

Полного списка десяти типов анонс не даёт. По логике описания напрашиваются сущности вроде агента с характером и биографией, работы, школы или учителя, климата как снимка среды, события кластера, оценки критика. Это предположение о наборе, а не цитата из проекта: точные имена и схемы полей нужно смотреть в исходниках.

Плюс декларативного подхода очевиден: kubectl get по нужному типу показывает, кто жив, что написал и в каком состоянии, а история объектов даёт воспроизводимость. Минус тоже понятен: десять CRD - это десять схем, десять наборов прав RBAC и заметный объём служебной логики, которую придётся поддерживать.

Контроллер на kopf и валидация через pydantic

Контроллер написан на kopf, Python-фреймворке для операторов Kubernetes. Он даёт декораторы-обработчики вида @kopf.on.create, @kopf.on.update, @kopf.on.field, таймеры и повторы, поэтому логика «появился новый агент - создай ему биографию и расписание» пишется как обычная функция на Python. Для проекта, где каждый шаг требует вызова LLM, это экономит много кода.

Схемы ответов моделей описаны через pydantic. Практика знакомая каждому, кто делал structured output: модель просят вернуть JSON по схеме, результат валидируют, а при несоответствии запрос повторяют. Без этого шага агентская система ломается на первой же работе, оформленной «красиво, но не по формату»: парсер получает текст вместо структуры, и контроллер не может записать объект. Строгая схема превращает творчество в данные, с которыми работает Kubernetes.

Границы валидации стоит понимать трезво: pydantic проверяет форму, а не смысл. Он подтвердит, что поле title заполнено строкой, и пропустит бессмыслицу, если она укладывается в схему. Качество работы оценивают критики, летописец и читатель, а не валидатор.

Подключение моделей: внешние API и локальные решения

По описанию проекта поддерживаются внешние API и локальные модели через llama.cpp, vLLM или Ollama. Разница между ними практическая:

  • llama.cpp работает с GGUF-квантованными весами, считает на CPU и на слабых GPU, удобен для домашнего стенда и экспериментов без видеопамяти на десятки гигабайт;
  • vLLM рассчитан на плотную нагрузку на GPU, даёт высокую пропускную способность за счёт continuous batching и PagedAttention, но требует VRAM под веса и KV-кэш;
  • Ollama поднимает локальный HTTP-сервер с интерфейсом, совместимым с OpenAI, и удобен для быстрого старта и переключения моделей.

Роли для разных эндпоинтов логичны экономически: генерацию симфонии или рассказа отдают модели посильнее, рутинную оценку и ведение хроники - модели подешевле. Анонс не раскрывает, как именно распределены роли и какие модели стоят на каждом эндпоинте. Внешние API дают качество без своего железа, но платны по токенам; локальные модели убирают счёт за токены, зато требуют GPU и времени на обслуживание.

Артефакты как бэкап: шифрование и фонтанные коды

Вторая функция мастерской - хранение состояния. По описанию автора, состояние кластера шифруется ключом владельца, кодируется фонтанными кодами и раскладывается по работам агентов, так что запись восстанавливается из любого достаточного числа уцелевших носителей. Публичных прогонов на реальной деградации кластера нет, поэтому ниже разобрана механика и её границы, а не гарантии.

Шифрование ключом владельца

Ключ принадлежит владельцу кластера, без него бэкап не читается. Смысл в том, что артефакты лежат относительно открыто: работы видят все, у кого есть доступ к кластеру, а состояние внутри них защищено. Практическое следствие простое: ключ нельзя хранить в том же кластере и в том же репозитории, иначе разделение теряет смысл. Порядок восстановления такой же, как у любого зашифрованного бэкапа: сначала ключ, потом сборка данных, потом проверка на тестовом контуре.

Фонтанные коды: избыточность и восстановление

Фонтанные коды (fountain codes) - класс схем помехоустойчивого кодирования без фиксированной скорости. Классический пример, LT-коды Майкла Луби, порождают потенциально бесконечный поток кодированных символов, и для восстановления исходных данных нужно собрать любое достаточное их количество: порядок и конкретные номера не важны. Raptor и RaptorQ развивают идею и применяются в стандартах мобильной передачи данных, где потери пакетов обычное дело.

Для бэкапа это даёт важное свойство: не нужно заранее решать, сколько копий хранить и какие именно. Каждая работа агента становится носителем части закодированного состояния, а утрата части работ не ломает восстановление, пока уцелевших достаточно. Избыточность получается естественной: чем больше работ, тем выше шанс собрать нужный объём символов.

Что остаётся за пределами описания: как кодированные символы укладываются в текст рассказа или в запись симфонии, сколько данных несёт одна работа и что происходит, если агент переписал работу после публикации. Ответы на эти вопросы определяют пригодность схемы на практике, и в анонсе их нет. Для сравнения, слой состояния проекта с задачами и заметками между чатами устроен куда прозаичнее и разобран в материале о Later Bender.

Практическая ценность и ограничения

Ценность проекта в трёх вещах. Он показывает паттерн «среда как промпт»: агент получает не задачу, а состояние системы, и это состояние меняется от его действий. Он демонстрирует дисциплину схем: десять CRD и валидация через pydantic удерживают творческий вывод в предсказуемой структуре. И он ставит вопрос об избыточности состояния иначе: носителями бэкапа становятся сами артефакты, а не отдельные реплики хранилища.

Ограничения начинаются с нагрузки. Каждый шаг агента - вызов LLM, а жизнь в кластере идёт непрерывно. Пятьдесят работ за четыре дня это скромный темп для одного кластера; при десятках агентов и частых событиях расходы на внешние API и утилизация GPU растут вместе с их числом. Локальные модели снимают денежный вопрос, но упираются в железо: одна GPU обслуживает ограниченное число параллельных запросов, и очередь начинает влиять на «жизнь» мастерской.

Второе ограничение техническое. Объекты Kubernetes хранятся в etcd, а API-сервер по умолчанию принимает запросы размером около 1,5 МБ. Крупные артефакты, особенно аудио, придётся держать в объектном хранилище, а в ресурсах оставлять ссылки. Много мелких объектов и активные watch-подписки добавляют нагрузку на control plane.

Третье ограничение - проверяемость. Восстановление «на любой момент времени» заявлено, но публичных тестов на потерю половины работ и на битые артефакты нет. Пока таких прогонов не видно, схему стоит считать гипотезой с правдоподобной математической основой, а не готовым решением для бэкапа продакшн-кластера.

Четвёртое - содержание. Владелец не управляет темами и формами, а значит, не управляет и тем, что попадёт в артефакты. Для исследовательской песочницы это нормально, для среды с внешними пользователями нужен фильтр на выходе и правила хранения.

Кому смотреть: тем, кто строит долгоживущих агентов с памятью и обратной связью; тем, кто пишет операторы и хочет увидеть нестандартное применение CRD; тем, кому интересны схемы избыточности состояния. Для бэкапов продакшн-кластеров разумнее остаться на проверенных инструментах и объектном хранилище.

Как повторить или вдохновиться

Минимальная версия идеи собирается за вечер и не требует десяти CRD. Порядок такой:

  1. Поставить kopf и завести один CRD, например Writer с полями имени, характера и накопленного опыта.
  2. Подключить локальную модель через Ollama по совместимому с OpenAI эндпоинту, чтобы не платить за токены на этапе отладки.
  3. Описать ответ модели схемой pydantic: заголовок, жанр, текст, ссылка на событие-повод. Валидировать и повторять запрос при ошибке.
  4. Сделать источником «климата» реальные события кластера: изменения в Deployment, рестарты Pod, рост числа реплик. Читать их через API и складывать в короткий текстовый снимок.
  5. Записывать каждую работу отдельным объектом Kubernetes, чтобы получить историю и возможность сравнивать шаги.
  6. Добавить второго агента-критика, который читает работу и оставляет оценку. Здесь появляется первая обратная связь.

Хранение и восстановление продумывают до того, как агентов станет много. Снимайте состояние в файл или объектное хранилище, кодируйте фонтанными кодами (реализации LT и RaptorQ есть в открытых библиотеках) и проверяйте восстановление на тестовом контуре, а не на живом кластере. Если задача ближе к управлению состоянием проекта, чем к искусству, полезен разбор сборки агента с нуля: там больше про память, инструменты и обработку ошибок, чем про симфонии.

Что почти наверняка пойдёт не так: модель начнёт возвращать JSON с лишним текстом, длинные контексты упрутся в окно, а стоимость внешнего API окажется выше ожидаемой при непрерывной работе. Эти три проблемы решаются строгими схемами, усечением контекста и локальной моделью, и решать их лучше до того, как агенты начнут ссориться и умирать.

Подписаться на канал