RAG спас мир. Но это временно
В 2024–2025 годах RAG гремел. Каждый стартап клепал свои retrieval-пайплайны, каждый уважающий себя инженер лепил семантический поиск поверх LLM. И это работало. Пока не упёрлись в стену. Мы уже писали о старых граблях — но сейчас я говорю не про качество найденных чанков. Речь про сам принцип: RAG превращает невидимый танец скрытых состояний в плоский текстовый формат. А потом LLM снова переваривает этот текст в скрытые состояния. Двойная работа, двойные потери. Это инженерный костыль, и он временный.
Представьте: у вас есть нейросеть, которая внутри оперирует многомерными векторами. Это её родной язык. А RAG заставляет её читать переведённые на человеческий язык куски. Перевод всегда теряет нюансы — позицию вектора в пространстве, тонкие взаимосвязи. Мы буксуем на ровном месте.
Куда утекает точность
Когда вы ретривите документ, релевантность которого 80%, вы всё равно пихаете в промпт полный текст. Где гарантия, что LLM не выкинет полезное? Никакой. Topic routing и relevance eviction — попытка собрать просыпавшееся, но архитектура остаётся прежней: мы притворяемся, что достаточно добавить контекст. Но чем больше памяти, тем больше шума. RAG не масштабируется органично: атаки на RAG и фейки только подтверждают, что внешний контекст легко засорить.
Векторные базы данных — внешние косты. Они хороши, пока у вас 10 тысяч чанков. Но при сотнях миллионов — latency растёт, качество падает. И главное: вы теряете самую важную информацию — как LLM восприняла документ. Скрытые состояния при обработке текста уникальны, они отражают не только слова, но и контекст внимания. RAG же работает с текстом as is.
Нейросетевая память: другой путь
Что если модель может хранить не текст, а собственные скрытые представления? Это решило бы проблему конвертации. Вместо того чтобы перегонять векторы в строки и обратно, LLM напрямую манипулирует внутренними состояниями. Выделяет для них место — как RAM на стероидах. RRAM обещает прорыв — аналоговая память, которая хранит состояния без дискретизации. А в 2026 году RRAM уже ломает «стену памяти», позволяя нейросетям иметь практически бесконечное контекстное окно без потери скорости.
Есть и практические Open Source решения. Модуль NGT Memory — попытка дать LLM персистентную память на основе графов. Или детерминированный RAG с recall 1.0 — но он всё ещё внешний, хоть и без LLM-вызовов.
Что мы теряем сейчас
RAG — это логический компромисс. Он появился, потому что модели не умели хранить долговременную память. Но индустрия быстро поняла: мультимодальный RAG — это ещё больше конвертаций: картинки в текст, аудио в текст. Каждая конвертация — потеря. Пока мы не научимся напрямую работать с эмбеддингами изображений, аудио, видео — мы будем лишь эмуляцией памяти.
| Критерий | RAG (внешняя память) | Нейросетевая память |
|---|---|---|
| Скрытые состояния | Конвертируются в текст (потери) | Хранятся напрямую |
| Latency | Ретривал + генерация | Только генерация |
| Масштабирование | Требует оптимизации (topic routing etc.) | Естественно с ростом контекста |
| Устойчивость к атакам | Уязвим к инъекциям через документы | Зависит от архитектуры |
Да, RAG лечил рак и писал код. Но посмотрите, сколько инженерных усилий уходило на поддержание точности. Agentic RAG, GraphRAG, BayesRAG — все эти ухищрения лишь отсрочивают неизбежное.
Когда упадёт последний костыль
К 2027–2028 году модели получат встроенную долговременную память — через RRAM, через нейроморфные чипы, через обучение управлять своими скрытыми состояниями. RAG станет ненужным. Но не исчезнет мгновенно: наработанные пайплайны и экосистема векторизации будут использоваться для других задач — поиск, классификация, similarity. А вот как способ дать LLM фактические знания — канет в Лету.
Не советую распиливать бюджет на бесконечную оптимизацию RAG. Лучше инвестируйте в изучение встроенной памяти — NGT Memory, эксперименты с RRAM эмуляторами. Через год-два вы скажете себе спасибо.
Парадокс в том, что RAG — это единственный способ сделать LLM полезной сегодня. Но именно он тормозит прогресс: если бы не было RAG, мы бы быстрее придумали, как научить модель запоминать нативно. А пока — мы только учим модель читать шпаргалки, а не думать.
