Перейти к содержанию
Новое AiManual теперь в MAX Подписаться
Публикация AiManual

Как выжать максимум из маленькой LLM: 2x улучшение кодогенерации без хакинга агента

Систематический подход к улучшению качества кода 7B модели без изменения агента. Промпт-инжиниринг, декомпозиция, A/B тесты — всё с примерами.

Коротко

Что будет в материале

  1. 01

    Ты держишь в руках 7B модель. Она дешёвая, быстрая, но код генерирует так, будто её кормили только коммитами из легаси. Можно, конечно, дообучить — про это я писал в...

  2. 02

    Хорошая новость: я провёл серию экспериментов и нашёл методику, которая стабильно удваивает pass@k на HumanEval+ без единой строчки изменений в агенте. Как это...

Ты держишь в руках 7B модель. Она дешёвая, быстрая, но код генерирует так, будто её кормили только коммитами из легаси. Можно, конечно, дообучить — про это я писал в статье Zero-Shot Transferable Adapter, но если у тебя нет GPU или времени? Агента менять нельзя — он уже в продакшене, обвязан RAG, логами, тимлид не даст. Что остаётся? Только промпты.

Хорошая новость: я провёл серию экспериментов и нашёл методику, которая стабильно удваивает pass@k на HumanEval+ без единой строчки изменений в агенте. Как это работает? Никакой магии — системный подход к исследованию промптов, которому можно научиться за вечер.

Подписаться на канал