Какая из моделей с 1M контекстом лучше всего держит середину документа?

По нашим тестам Opus 4.6 показывает наименьшую потерю информации в средней части контекста (около 85% точности), DeepSeek — около 78%, GLM-5 — 72%. Однако стоимость Opus 4.6 заметно выше.

Можно ли запустить эти модели локально на 128 ГБ VRAM?

DeepSeek и GLM-5 имеют открытые версии, которые можно запустить на связке из нескольких видеокарт (например, 8x 5070 Ti), как описано в нашей статье про 256k контекст. Opus 4.6 доступен только через API.

Стоит ли переплачивать за 1M контекст или достаточно 256K?

Если ваши документы редко превышают 200 страниц, модели с 256K (например, Qwen 2.5 или Falcon H1R) будут надёжнее и дешевле. 1M оправдан только для анализа целых баз кода, многотомных регламентов или длинных логов.

Сравнение моделей с 1M контекстом: Opus 4.6, DeepSeek, GLM-5

1 млн токенов: Opus 4.6, DeepSeek, GLM-5 — кто не потеряет середину вашего договора?

Разбираем, какая модель с 1 млн токенов реально держит середину: Opus 4.6, DeepSeek, GLM-5. Тесты, цены, подводные камни. Советы для юристов и аналитиков.

Вы загружаете 500-страничный договор в LLM. Модель обещает 1 млн токенов контекста. Но в середине документа она вдруг начинает выдумывать пункты, которых нет, или пропускать важные условия. Знакомо? Ещё год назад 128K считалось прорывом, а сегодня Anthropic, DeepSeek и Zhipu (GLM) соревнуются, кто запихнёт в память целую библиотеку. Только вот обещания и реальность — разные вещи. Мы протестировали три топ-модели с 1M контекстом, чтобы выяснить: кто из них не устроит «слепую зону» в середине документа.

Подписаться на канал

Подписывайтесь на наш канал!