Что показывает сравнение: вдвое меньше генерации за пятую часть цены
Intel Arc Pro B70 32GB за $1 299 выдаёт примерно вдвое меньшую скорость генерации и втрое меньшую скорость prefill, чем RTX 5090, которая на момент публикации разбора стоила $6 500 и выше на Newegg. В пересчёте на деньги это около половины скорости генерации и трети скорости обработки промпта за пятую часть цены. Результат получен после настройки, а не на стоковых драйверах.
Замеры сделаны на Qwen3-27B Q6. При промпте около 3 тыс. токенов и включённом MTP Arc Pro B70 показала примерно 960 tok/s на обработке промпта и 52 tok/s на генерации. На контексте 16k после перехода на SYCL и q8_0 KV-кэш получилось около 1 032 tok/s prefill и 56,5 tok/s генерации. Цифры и шаги настройки приведены в разборе на r/LocalLLaMA.
Цифры RTX 5090 взяты из чужих публикаций, обсуждений на Hugging Face, а не измерены автором на той же системе. Сравнение показывает порядок разницы, а не лабораторную точность. Главный вывод: разрыв в скорости реальный, вопрос в том, за что вы платите и сколько времени готовы потратить на BIOS, драйверы и сборку llama.cpp.
Автор разбора сформулировал итог так: примерно 2x генерации и 3x prefill за 5x денег. Формулировка грубая, но хорошо передаёт суть. RTX 5090 быстрее, Intel-карта дешевле, и разница в цене заметно больше разницы в скорости.
Какие цифры получились на Qwen3-27B Q6
| Параметр | Intel Arc Pro B70 32GB | NVIDIA RTX 5090 |
|---|---|---|
| Цена на момент публикации | $1 299 | $6 500 и выше на Newegg |
| Модель и режим | Qwen3-27B Q6, промпт около 3k токенов, MTP включён | Опубликованные чужие замеры, не та же система |
| Обработка промпта | Около 960 tok/s | Примерно в 3 раза выше |
| Генерация | Около 52 tok/s | Примерно в 2 раза выше |
| Контекст 16k | Около 1 032 tok/s prefill, 56,5 tok/s генерации | Сопоставимого замера в источнике нет |
На 16k контекста цифры выше, чем на промпте 3k: около 1 032 tok/s prefill и 56,5 tok/s генерации. Это не значит, что карта ускоряется на длинном контексте; это другой сценарий и другая конфигурация после дополнительной настройки. Для RTX 5090 сопоставимого замера на 16k в источнике нет, поэтому сравнивать эти значения напрямую нельзя.
Почему Intel Arc Pro B70 вообще рассматривают для локальных LLM
Карта была куплена за $1 299 напрямую в официальном магазине ASRock на Amazon. За эти деньги вы получаете 32 ГБ VRAM. Для моделей уровня Qwen3-27B Q6 объём видеопамяти часто важнее пиковой скорости: модель должна поместиться вместе с KV-кэшем, иначе часть слоёв уедет в RAM и скорость упадёт. Как считать память под 32B и 70B и почему генерация упирается в пропускную способность памяти, разобрано в материале о выборе видеокарты для нейросетей.
По цене за гигабайт VRAM расклад такой: Arc Pro B70 даёт около $40,6 за 1 ГБ, RTX 5090 за $6 500 - около $203 за 1 ГБ, RTX 5090 по MSRP $1 999 - около $62,5 за 1 ГБ. B65 тоже имеет 32 ГБ, но медленнее и дешевле всего на $100: $1 199 против $1 299. Экономия в $100 не окупает потерю скорости, поэтому B70 выглядит разумной точкой входа, если нужен именно большой объём памяти.
Цена компромисса тоже понятна: Linux, BIOS, драйверы, сборка llama.cpp с SYCL. Это не карта для сценария «купил, поставил, забыл». Если вы не готовы разбираться с настройкой, экономия быстро превратится в потраченные вечера. Подробнее про то, что значит вырваться из категории GPU poor, разобрано в отдельном материале.
Как настроить Intel Arc Pro B70 под llama.cpp: пошаговый разбор
Автор разбора перечисляет условия, без которых заявленные цифры не получить. Это последовательность, а не набор опций: пропущенный шаг меняет результат.
- Ядро Linux 6.17+. Более старое ядро не даёт нужной поддержки карты.
- Resizable BAR включён, CSM выключен. На многих платах Resizable BAR не включается, пока активен режим совместимости CSM.
- Intel compute runtime из
ppa:kobuk-team/intel-graphics. Это отдельный рантайм, а не только Mesa. - Mesa 26.x. На Mesa 25.2 из Ubuntu 24.04 карта работает очень медленно.
- llama.cpp с бэкендом SYCL вместо Vulkan. Именно SYCL позволяет использовать q8_0 KV-кэш и MTP без штрафа, который есть на Vulkan.
Конфигурация автора: Threadripper 1950X, 128 ГБ DDR4, материнская плата x399m Taichi с PCIe 3.0, Ubuntu 24.04 headless. Отсутствие PCIe 5 не критично, когда модель уже загружена в VRAM. Шина влияет в основном на MoE-модели, где часть весов подгружается динамически. Эти шаги и оговорки перечислены в том же разборе.
Resizable BAR и CSM: почему без этого карта работает хуже
Resizable BAR даёт системе доступ к большему окну видеопамяти. Без него карта работает, но не на тех скоростях, которые получены в разборе. Включение требует выключить CSM, а это не всегда просто на старых платах. Автору пришлось обновить BIOS с 3.80 до 4.03 на x399m Taichi; старая GeForce 210 мешала отключить CSM. Если у вас похожая плата, проверьте BIOS заранее, а не после покупки карты.
Mesa 26.x: почему обновление драйвера даёт трёхкратный рост
Ubuntu 24.04 ставит Mesa 25.2, и на этой карте она очень медленная. Обновление до Mesa 26.x дало примерно трёхкратный рост генерации в ollama с Vulkan. Это один из самых дешёвых шагов по трудозатратам: версия графического стека меняет скорость сильнее, чем многие параметры запуска модели. Конкретные цифры сверх указанных не приводим, их в источнике нет.
SYCL против Vulkan: где скорость, а где удобство
Vulkan проще для старта: ollama, LM Studio и другие готовые сборки часто работают через него. SYCL требует собрать llama.cpp с нужным бэкендом, зато даёт доступ к полному объёму VRAM и снимает ограничения на квантованный KV-кэш. Выбор зависит от того, что важнее: быстро запустить или выжать максимум из 32 ГБ.
llama-server с Vulkan по умолчанию не видит весь объём 32 ГБ, автор разбора наблюдал около 29 ГБ. SYCL видит полный объём. В ollama бэкенда SYCL нет, но llama-server даёт OpenAI-совместимый API, поэтому интеграция с приложениями остаётся возможной.
Квантованный KV-кэш: почему на Vulkan он режет скорость
На Vulkan любой квантованный KV-кэш, q8_0 или q4_0, вызывает сильное замедление генерации: в 1,75 раза при небольшом контексте и более чем в 3 раза при 64k и выше. Квантование экономит память, но на этом пути теряется скорость. На SYCL q8_0 KV работает без такого штрафа и позволяет вместить заметно больше контекста. По данным разбора, это одна из главных причин уходить с Vulkan.
MTP и q8_0 KV: как выжать 16k контекста
На SYCL можно включить MTP флагами --spec-type draft-mtp --spec-draft-n-max 4 и использовать q8_0 KV-кэш. На 16k контекста эта связка дала около 1 032 tok/s prefill и 56,5 tok/s генерации. На Vulkan такой сценарий заметно медленнее из-за штрафа квантованного KV. Если вам нужен длинный контекст на 32 ГБ, SYCL даёт более практичный результат, чем Vulkan с теми же настройками.
Сколько это стоит: цена за VRAM и цена за скорость
Считаем на пальцах. $1 299 за 32 ГБ - это около $40,6 за гигабайт. $6 500 за RTX 5090 с теми же 32 ГБ - около $203 за гигабайт, то есть в пять раз дороже за память. По MSRP $1 999 расклад другой: около $62,5 за гигабайт.
| Карта | Цена | VRAM | Цена за 1 ГБ | Оценка цены за 1 tok/s генерации | Оценка цены за 1 tok/s prefill |
|---|---|---|---|---|---|
| Intel Arc Pro B70 32GB | $1 299 | 32 ГБ | Около $40,6 | Около $25,0 | Около $1,35 |
| NVIDIA RTX 5090, цена на момент публикации | $6 500 и выше | 32 ГБ | Около $203,1 | Около $62,5 | Около $2,26 |
| NVIDIA RTX 5090, MSRP | $1 999 | 32 ГБ | Около $62,5 | Около $19,2 | Около $0,69 |
В таблице цена за tok/s - оценка: генерация RTX 5090 принята вдвое выше, prefill втрое выше, как в исходном сравнении. Для Arc Pro B70 взяты 52 tok/s генерации и 960 tok/s prefill. Это не биржевые котировки и не гарантия для другой модели.
Если принять опубликованное соотношение, генерация RTX 5090 примерно вдвое выше. Тогда цена за 1 tok/s генерации у Arc Pro B70 около $25, у RTX 5090 за $6 500 - около $62,5, у RTX 5090 по MSRP - около $19,2. По prefill картина похожая: Intel-карта дешевле за единицу скорости при цене $6 500, но проигрывает при MSRP. Это оценка на основе соотношения, а не точный замер на одинаковой системе.
Главная оговорка: если RTX 5090 удаётся купить по MSRP $1 999, преимущество Intel-карты по цене исчезает. Автор разбора прямо говорит, что в таком случае дешёвая Intel-карта перестаёт быть выгодной. Сравнение чувствительно к реальной цене покупки, а не к прайсу на бумаге.
Когда RTX 5090 всё равно выгоднее
Есть сценарии, где переплата оправдана. Нужна максимальная скорость prefill для длинных промптов, RAG и агентов с большим системным контекстом. Важна простота «поставил и работает» без сборки llama.cpp с SYCL. Нужна зрелая CUDA-экосистема и предсказуемость на разных моделях. Наконец, если карта достаётся близко к MSRP, экономика меняется в пользу NVIDIA.
Простота RTX 5090 не отменяет ограничений. В разборе DeepSeek V4.1 Flash 8K на RTX 5090 пользователь получил около 10 токенов в секунду, так что скорость зависит от модели, квантования и настроек. CUDA не делает любую модель быстрой автоматически.
Когда Intel Arc Pro B70 оправдана
Intel-карта имеет смысл, если бюджет ограничен, а нужен большой объём VRAM под модели уровня Qwen3-27B Q6. Если вы готовы настроить Linux, Resizable BAR, Mesa 26.x и SYCL. Если основная нагрузка - генерация, а не обработка огромных промптов. Если собираете домашний AI-сервер на старом железе вроде Threadripper 1950X с PCIe 3.0. Отсутствие PCIe 5 в основном бьёт по MoE-моделям, для моделей, которые целиком помещаются в VRAM, это не главный фактор.
Ограничения и подводные камни не-NVIDIA пути
Список того, что может пойти не так, лучше увидеть до покупки.
- Ядро Linux 6.17+. На старом ядре результат будет хуже заявленного.
- BIOS и CSM. Нужен Resizable BAR, для него часто требуется выключить CSM. На старых платах это упирается в версию BIOS и установленные карты.
- Mesa 26.x. Дефолтная Mesa 25.2 из Ubuntu 24.04 на этой карте очень медленная.
- Нет SYCL в ollama. Для SYCL нужен llama-server или своя сборка llama.cpp.
- Vulkan видит около 29 ГБ из 32 ГБ. Полный объём доступен на SYCL.
- Квантованный KV на Vulkan. q8_0 и q4_0 дают штраф к генерации, который растёт с контекстом.
- PCIe 3.0 и MoE. Старая шина слабо мешает моделям, которые целиком в VRAM, но сильнее бьёт по MoE.
- Заявленные цифры - результат настройки. Из коробки карта работала очень плохо, по словам автора разбора.
- Сравнение не лабораторное. Цифры RTX 5090 взяты из чужих публикаций, а конфигурация Intel описана для конкретного железа.
- Цены меняются. $1 299 и $6 500 - цены на момент публикации, а не постоянные величины.
Это не приговор Intel-пути. Это список задач, которые нужно решить, чтобы получить заявленную экономию. Если пункты выше выглядят как работа, которую вы не хотите делать, RTX 5090 остаётся более простым выбором.
Итог: кому подходит эта сборка
Короткий чек-лист без категоричных обещаний.
- Берите Intel Arc Pro B70 32GB, если готовы к Linux, BIOS и сборке llama.cpp с SYCL; нужен максимум VRAM за деньги; основная нагрузка - генерация; есть время на настройку.
- Берите RTX 5090, если нужна максимальная скорость prefill; важна простота и зрелая CUDA-экосистема; карта достаётся близко к MSRP $1 999.
- Смотрите на B65 32GB, только если $100 разницы принципиальны и вы готовы к ещё меньшей скорости. По данным разбора, B65 медленнее B70.
Сравнение опирается на чужие замеры RTX 5090 и личный опыт автора с Intel-картой. Цены на момент публикации могли измениться. Если нужен максимально простой локальный сервер и бюджет позволяет, RTX 5090 снимает часть технической возни. Если бюджет жёсткий, а 32 ГБ VRAM важнее секунд на prefill, Arc Pro B70 даёт рабочий вариант после настройки.