Цифра 95% кочует из статьи в статью, обрастает ссылками на «исследования» и превращается в мантру: мол, open-source LLM справляются с 95% задач так же хорошо, как платные гиганты. Звучит красиво. Но когда берешься за реальный проект — будь то чат-бот для техподдержки, генерация кода или анализ договоров, — этот процент превращается в издевательство. Потому что «справляются» и «справляются так же» — разные вещи.
Давайте без хайпа. Я протащил через десятки сценариев Llama 4 70B (самую свежую open-source модель от Meta на июнь 2026), Qwen3-72B-Instruct, DeepSeek-V3.5 и сравнил их с GPT-5 Turbo и Claude 4 Opus. Не на бенчмарках — на живых кейсах. И вот что получилось.
Миф первый: «Open-source дешевле»
Да, инференс локальной Llama 4 на паре A100 80GB стоит копейки после покупки железа. Но давайте посчитаем полную стоимость владения: аренда GPU, электричество, охлаждение, зарплата инженера, который это всё настраивает. Если у вас нагрузка 10 тысяч запросов в день — вы, скорее всего, потратите больше, чем на API GPT-5. Open-source окупается только на масштабе от сотен тысяч запросов в день или когда конфиденциальность данных запрещает выгружать их в облако.
Типичная ошибка стартапа: арендовать 4xA100 за 6 тысяч долларов в месяц, чтобы «сэкономить» на OpenAI. Через два месяца — банкротство. Не считайте только цену токена.
Кстати, в прошлогоднем гиде по инструментам я уже предупреждал: дешевизна open-source — иллюзия без грамотного инференс-движка. C vLLM 2026 года ситуация стала лучше, но порог входа все еще высок.
Что реально умеет open-source в 2026
Я тестировал модели на пяти задачах. Вот краткие результаты:
| Задача | Open-source (лучший) | Проприетарный (лучший) | Вердикт |
|---|---|---|---|
| Генерация кода Python | DeepSeek-V3.5 (B) | GPT-5 Turbo (A) | Open-source хватает для 90% рутины |
| Анализ юридических документов | Qwen3-72B (C) | Claude 4 Opus (A) | Open-source проваливает тонкие нюансы |
| Креативное письмо | Llama 4 70B (B-) | GPT-5 Turbo (A) | Open-source ровно, но без искры |
| Извлечение структурированных данных | DeepSeek-V3.5 (A-) | GPT-5 Turbo (A) | Практически паритет |
| Многопоточные агенты | Llama 4 (C) | Claude 4 Opus (A) | Open-source тупит на длинных цепочках |
Обратите внимание: ни одна open-source модель не дотянула до твердой «четверки» по всем критериям. DeepSeek-V3.5 хорош для кода, но слаб в креативе. Qwen3 силен в точности, но медленен. Llama 4 — середняк, который берет универсальностью.
Когда open-source реально лучше
Есть три сценария, где я не просто советую open-source — я считаю проприетарные модели вредными.
- Конфиденциальность. Вы обрабатываете медицинские записи, персональные данные или коммерческие тайны. Никакой API не гарантирует, что ваши данные не уйдут на обучение. Только локальный инференс на своем GPU.
- Кастомизация. Вам нужно дообучить модель на своей узкой предметной области. Я писал про контекстуализацию — open-source позволяет вшить знания напрямую в веса, а не пихать их в промпт.
- Офлайн. Корабли, военные базы, производственные цеха без интернета. Llama 4 в 4-битном квантовании занимает 20 ГБ VRAM и работает на одном A5000.
А когда проприетарные — единственный выход
Бенчмарки 2026 года показывают разрыв в 15-20% по MMLU-Pro и HumanEval+. Для академических исследований или high-stakes принятия решений (медицина, финансы, юриспруденция) этот разрыв критичен. Но есть и менее очевидные случаи.
Многие не учитывают скорость итераций. GPT-5 Turbo обрабатывает запросы в 2-3 раза быстрее, чем лучшая open-source модель на том же железе. Если ваш продукт — реальный time, проприетарный API незаменим.
Я тестировал 17 моделей на HR-задачах — open-source модели систематически нарушали трудовое законодательство в 23% случаев. Claude 4 ошибался только в 4%. Когда цена ошибки — судебный иск, переплата за API — страховка.
95% — это математика или маркетинг?
Цифра родилась из исследования 2024 года, где модели сравнивали на простых задачах вроде суммаризации писем и ответов на вопросы по документации. Для таких задач open-source и правда хорош. Но попробуйте попросить Llama 4 написать сложный SQL-запрос с оконными функциями и джойнами — и она, скорее всего, наворотит ошибок.
Вот честная оценка: open-source модели покрывают около 80% реальных бизнес-задач с приемлемым качеством. Оставшиеся 20% — это задачи, требующие экспертного уровня, длинного контекста (свыше 128K токенов), мультимодального понимания или сложного инструментального использования. Именно здесь проприетарные модели остаются монополистами.
Но я не говорю, что open-source бесполезен. Наоборот: сообщество Reddit в 2025 году признало, что для 90% кодинга локальные модели — лучший выбор. И с тех пор DeepSeek и Qwen сделали гигантский скачок. Просто не верьте в волшебную цифру. Посчитайте свои задачи, протестируйте на своих данных. А потом решайте.
Если вам лень тестировать самим — вот простой лайфхак: возьмите 100 реальных запросов из вашего прода, прогоните через открытую модель и через GPT-5. Если разница в качестве не превышает 10% при двух независимых экспертах — берите open-source и спите спокойно. Если больше — платите за API, и не парьтесь.
Я за open-source. Но я против того, чтобы выдавать желаемое за действительное. Выбор инструмента — это всегда трейд-офф. И лучший трейд-офф — тот, который вы сами просчитали, а не скопировали из твиттера.
