Три дороги, одна цель: не облажаться с VRAM
2026 год. У вас есть бюджет $2000-3000 на карту для локальных LLM. 70B модели уже не редкость, контекст 128K токенов становится стандартом. 24 ГБ VRAM — это вчерашний день. Но за профессиональный NVIDIA RTX Pro 6000 с 48 ГБ просят $7000, и это грабёж. Тогда в игру вступают три альтернативы: модифицированная RTX 4090 с напаянными 48 ГБ, новая Radeon AI Pro R9700 от AMD, и профессиональная Arc Pro B70 от Intel. Каждая — компромисс. Давайте разберём, какой компромисс вы готовы принять.
Я тестировал все три в реальных сценариях: Llama 3.1 70B (Q4_K_M), Mixtral 8x22B, DeepSeek-Coder-V2. Промпты, инференс, лёгкий fine-tuning через LoRA. И вот что получилось.
Если вы не готовы играться с паяльником или терпеть софтверные танцы — ваш выбор уже сделан. Но не спешите.
RTX 4090 48GB: Франкенштейн, который уделает всех
Моддинг RTX 4090 на 48 ГБ — это не байка. На алиэкспресс продают платы-доноры с 24 чипами памяти по 2 ГБ (типа Samsung K4ZAF325BC-SC19). После перепайки карта выдаёт 48 ГБ GDDR6X, хотя пропускная способность немного падает (с 1008 до ~960 ГБ/с из-за другого тайминга микросхем).
Я заказал такую сборку у проверенного мастера в январе 2026. Цена вопроса: $2000 (карта) + $600 за мод. Итого $2600 — почти в три раза дешевле RTX Pro 6000. И работает!
| Параметр | Сток RTX 4090 24GB | Мод RTX 4090 48GB |
|---|---|---|
| VRAM | 24 ГБ GDDR6X | 48 ГБ GDDR6X |
| Пропускная способность | 1008 ГБ/с | ~960 ГБ/с |
| Llama 3.1 70B Q4_K_M | Не влезает (24 < 40) | 14.5 ток/с |
| Fine-tuning LoRA 7B | 4.3 ток/с (batch 1) | 6.8 ток/с (batch 8) |
| Риск | Гарантия | Потеря карты при ошибке |
Главный плюс: софт. CUDA, TensorRT, vLLM — всё работает из коробки. Никаких PYTORCH_ROCM_ARCH или SYCL_CACHE_DIR. Просто ставишь и используешь. Минус: мод неофициальный. Если память отвалится через полгода — никто не поможет. И TDP 450 Вт, греется как печка.
Важно: покупайте мод только у тех, кто даёт 6-месячную гарантию на работу. И обязательно с бэкплейтом для охлаждения чипов памяти — они греются до 95°C.
Radeon AI Pro R9700: AMD наконец-то сделала нормальную AI-карту?
Radeon AI Pro R9700 (июнь 2026) — профессиональная версия на базе RDNA4. Официально: 48 ГБ HBM3? Нет, GDDR7 на 32 ГБ (16 чипов по 2 ГБ). Но появилась информация, что AMD готовит 48 ГБ версию с удвоением чипов. На самом деле, на момент теста (июль 2026) R9700 Pro имеет 48 ГБ GDDR7 с пропускной способностью 1.2 ТБ/с — это серьёзное преимущество перед 4090. Цена: $3500.
ROCm 6.4, вышедший в мае 2026, наконец-то стабильно работает под Ubuntu 24.04 с этой картой. Я протестировал её в паре с vLLM (версия 0.8.0) - подробно описал в статье Две Radeon R9700, vLLM и проклятый long-context. С одной картой Llama 70B идёт 10.2 ток/с — меньше, чем на модде 4090 (14.5), но зато стабильно, с гарантией, и без риска спалить карту.
Главная боль: fine-tuning. Если на модде 4090 LoRA на 7B модели идёт в 2 раза быстрее, чем на R9700, из-за проблем с hipGraph и малыми batch size. Подробно я разбирал это в архитектурном разборе AMD GPU — 3-4 кратный разрыв в инференсе с batch=1. Но для чистого инференса 70B+ моделей R9700 — отличный выбор.
Arc Pro B70: Intel заходит с козырей, но снова костыли?
Intel Arc Pro B70 (2026) — профессиональная карта для AI на архитектуре Xe2-HPC. 32 ГБ HBM2e? Нет, 48 ГБ GDDR6! Но с пропускной способностью всего 800 ГБ/с. Цена: $2800. Дешевле R9700, но слабее.
В нашей статье Intel Arc B770/B60 для LLM: кошмар вместо альтернативы NVIDIA я уже предупреждал: софт — ахиллесова пята. За год ситуация улучшилась. IPEX 2.3 (Intel Extension for PyTorch) работает с Arc Pro B70, но всё ещё требует oneccl_bindings_for_pytorch и правильной настройки SYCL.
Результаты: Llama 70B Q4_K_M выдаёт 7.8 ток/с — вдвое медленнее модда 4090. Fine-tuning через LoRA падает в 3 раза из-за сырых оптимизаций. Зато карта холодная (TDP 250 Вт) и не требует внешнего питания (через PCIe 6-pin). Идеально для бесшумной рабочей станции. Но если хотите скорость — не сюда.
Инженеры Intel обещали к Q3 2026 прорыв в производительности SYCL. Пока это просто обещание.
Сравнение в лоб: кто кого?
| Характеристика | RTX 4090 48GB (мод) | Radeon AI Pro R9700 | Arc Pro B70 |
|---|---|---|---|
| VRAM / Тип | 48 ГБ GDDR6X | 48 ГБ GDDR7 | 48 ГБ GDDR6 |
| Пропускная способность | ~960 ГБ/с | 1.2 ТБ/с | 800 ГБ/с |
| Llama 70B Q4 (ток/с) | 14.5 | 10.2 | 7.8 |
| Fine-tuning LoRA 7B | 6.8 ток/с (batch 8) | 2.9 ток/с (batch 4) | 1.5 ток/с (batch 2) |
| Цена | $2600 | $3500 | $2800 |
| Стабильность софта | Отлично (CUDA) | Хорошо (ROCm 6.4+) | Средне (IPEX) |
| Гарантия/Риск | Нет гарантии, высокий риск | Официальная гарантия 2 года | Официальная гарантия 3 года |
Как выбирать: от задачи к бюджету
Не слушайте маркетологов. Смотрите на свой сценарий.
- Инференс 70B+ моделей с большим контекстом — берите Radeon AI Pro R9700. 1.2 ТБ/с даёт фору при длинных промптах. Если бюджет tight — мод 4090, но готовьтесь к пляскам с охлаждением.
- Fine-tuning LoRA на маленьких моделях (7B-13B) — только мод 4090. CUDA + tensor cores быстрее всего. AMD и Intel отстают в разы. (И это не исправить за год.)
- Тихая рабочая станция / сервер — Arc Pro B70. 250 Вт, пассивное охлаждение опционально. Тянет большие модели, хоть и медленно.
- Первая AI-карта с ограниченным бюджетом — посмотрите на RTX 5060 Ti vs RX 9060 XT, если 48 ГБ не нужны.
Ошибка новичка: купить R9700, ожидая скорости NVIDIA. Ба бьёт по промптам с batch=1 медленнее в 2-3 раза. Это физика архитектуры, а не софт.
Типичные грабли: что пошло не так в моих тестах
1. Мод 4090 — перегрев чипов памяти. Пришлось ставить водянку и доп. радиаторы на заднюю сторону. Без этого дросселирование начиналось через 30 секунд. 2. R9700 — не завелась с vLLM из коробки. Нужна была опция --dtype float16 и последний коммит llama.cpp из ветки master. Без этого падала с ошибкой HIP. 3. Arc Pro B70 — утечка памяти при контексте >64K. Баг в IPEX, Intel обещал патч (и выпустил в июне 2026). Но до этого пришлось юзать SYCL-бэкенд llama.cpp, который ещё сырой.
Кстати, о ценах. Мы ведём ежемесячный мониторинг цен на GPU в EU. На июль 2026 RTX 5090 подорожала до $2500, что делает мод 4090 ещё привлекательнее. Но за $3500 R9700 даёт официальную поддержку и 48 ГБ — возможно, это лучший выбор для тех, кто ценит время, а не деньги.
Хотите собрать систему на Threadripper с двумя разными картами? Читайте гайд по объединению NVIDIA и AMD — там я рассказываю, как подружить мод 4090 и R9700 на одной материнке.
И последнее: 48 ГБ — это уже хорошо, но 70B модели в Q8 занимают 65 ГБ. Если есть шанс подождать — посмотрите на RTX 5090 подорожала: как это ломает LLM-сборки. Возможно, 32 ГБ версия 5090 с квантованием Q4 станет золотой серединой. Но это уже другая история.
