Сборка за $100: 20 ГБ VRAM для локальных LLM с помощью P102-100 — майнинг-карты, которые спасут ваш бюджет

Когда я писал про сборку на 3× RTX 3090, думал — это дно по цене за гигабайт. Оказалось, нет. Дно глубже, и оно пахнет майнинг-фермой 2021 года. P102-100 — карты, которые NVIDIA делала для Ethereum, с вырезанными видеовыходами и урезанной шиной PCIe. В 2026 году они валяются на вторичке по $40–60 за штуку. И у каждой — 10 ГБ GDDR5X с пропускной способностью 448 ГБ/с. Две такие карты дают 20 ГБ VRAM за сумму, за которую сейчас не купить даже RTX 4060. Спойлер: это работает, но с танцами с бубном.

Зачем это нужно? Да всё та же история: локальные LLM пожирают видеопамять. 7B модель в 4-битном квантовании — ~4.5 ГБ, 13B — ~8 ГБ, 30B — уже под 18 ГБ. Одна P102-100 справляется с 7B, но для 13B и выше нужно две карты. А если удастся нацепить четыре? Но об этом позже.

Что такое P102-100 и почему 20 ГБ за сто баксов — не миф

P102-100 — это майнинговый монстр на чипе GP102 (тот же, что в Titan Xp и GTX 1080 Ti). Полные характеристики:

В статье про 10 ГБ VRAM я писал, что 10 ГБ — это минимальный порог для вменяемой работы с 7B моделями. С двумя P102-100 вы получаете 20 ГБ — хватает на 13B в Q4_K_M целиком, а 30B можно распределить между картами через llama.cpp или vLLM. Скорость? На одной карте llama.cpp выдаёт ~20–25 токенов/с для 7B Q4. На двух — около 12–15 токенов/с для 13B из-за оверхеда по PCIe. Но это всё равно быстрее, чем своп на SSD.

Подводные камни: почему вы не купили две карты и не поехали

Главная боль P102-100 — отсутствие видеочипа (вывод изображения) и программные ограничения. NVIDIA в драйверах GeForce с 2018 года блокирует эти карты: драйвер видит их, но не даёт запустить CUDA. Для инференса LLM это катастрофа. Решение — патчить драйвер или использовать специальные ветки (R470, R525).

Вторая проблема — охлаждение. Майнинговые карты часто имеют пассивные радиаторы (расчитаны на обдув фермы). В обычном ПК они перегреваются. Нужен активный обдув: либо ставить вентиляторы на радиаторы, либо покупать версии с турбиной (такие реже, но встречаются).

Третья — питание. Одна карта жрёт ~180 Вт. Две — 360 Вт плюс система. Блок питания на 750 Вт обязателен, лучше 850 Вт. И не забудьте про 8-pin разъёмы: у каждой карты два 8-pin (пиковые нагрузки на старте).

Четвёртая — совместимость с материнской платой. P102-100 имеют коннектор PCIe x4 (физически x16, но дорожек всего 4). Это означает, что в слот x16 карта воткнётся, но будет работать в режиме x4. Для инференса это не критично: пропускная способность в 2–3 ГБ/с достаточно для передачи данных. А вот для обучения — да, узкое горло. Но мы же про инференс.

Пошаговая сборка: от заказа до первых токенов

1 Закупка компонентов

Вот минимальный список для 20 ГБ VRAM:

• 2× P102-100 — $50–60 каждый (ищите на eBay, Avito, AliExpress). Проверяйте состояние: карты должны быть рабочими, без следов ремонта.
• Материнская плата: любая с двумя слотами PCIe x16 (подойдёт B660M/H610M). Важно: второй слот часто работает в режиме x4, но для нас это ок. Идеально — платформа X299, но она дороже.
• Процессор с iGPU (Intel 12-14 gen) — $80–100. Обязательно: без встроенной графики не увидите экран, так как карты не выводят видео.
• Оперативная память — 16 ГБ DDR4 ($25). Для запуска LLM хватит, своп не используем.
• Блок питания — 750W+ бронза/серебро ($50–70). Два 8-pin на каждую карту, итого 4 коннектора (можно через переходники).
• Корпус с хорошей вентиляцией или открытый стенд.

Итоговая цена: ~$200–250. Это за систему целиком. Если у вас уже есть ПК с iGPU и БП, можно уложиться в $100–120 за две карты.

2 Установка и первое включение

Вставляем обе карты в слоты. Подключаем питание (каждая карта требует два 8-pin). Монитор — в материнскую плату (iGPU). Загружаемся с Ubuntu 24.04 LTS (или Mint). Проверяем, видит ли система карты:

lspci | grep NVIDIA

Если карты отображаются (обычно как "NVIDIA Corporation Device 1bb2" или подобное), ставим драйверы. Но стандартные драйверы не включат CUDA. Нужен патч.

3 Патч драйвера для поддержки P102-100

Самый надёжный способ — использовать драйвер версии 550.127.05 (последний на июль 2026, который ещё поддерживает GP102). Устанавливаем через репозиторий NVIDIA с ключом --no-opengl-files, чтобы не портить iGPU.

sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
sudo apt install nvidia-driver-550

После перезагрузки проверяем nvidia-smi. Если карты отображаются, но с кодом ошибки 43 (или без CUDA), то нужен патч. Я использую nvidia-patch от сообщества (скрипт заменяет подпись драйвера).

sudo apt install git
cd /tmp
git clone https://github.com/keylase/nvidia-patch
cd nvidia-patch
sudo bash patch.sh

Скрипт добавит поддержку P102 в драйвер. После перезагрузки nvidia-smi покажет обе карты с памятью 10 ГБ каждая. Проверяем CUDA:

nvidia-smi
# Должны быть две карты, каждая с 10GB VRAM

echo 'options nvidia NVreg_EnableGpuFirmware=0' | sudo tee /etc/modprobe.d/nvidia-fw.conf
sudo update-initramfs -u
sudo reboot

4 Настройка multi-GPU в llama.cpp

Теперь самое интересное — заставляем LLM работать на двух картах. Быстрый способ — собрать llama.cpp с поддержкой CUDA и указать --tensor-split или -ngl 99 (количество слоёв на GPU).

Устанавливаем зависимости и компилируем:

sudo apt install build-essential cmake
cd ~
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
cmake . -DLLAMA_CUDA=ON
make -j$(nproc)

Скачиваем модель. Для примера возьмём Mistral-7B-Instruct-v0.3 Q4_K_M (~4.5 ГБ). Загружаем на одну карту:

./main -m models/mistral-7b-instruct-v0.3-q4_k_m.gguf -ngl 99 --no-mmap

С параметром -ngl 99 все 99% слоёв будут на GPU. Если VRAM одной карты мало для модели (например, 13B), используем две карты. В llama.cpp нет встроенной балансировки, но можно запустить два экземпляра сервера или использовать --tensor-split (экспериментально).

Лучший способ — использовать llama.cpp server с несколькими GPU через переменные окружения:

CUDA_VISIBLE_DEVICES=0,1 ./server -m models/llama-2-13b-chat-q4_k_m.gguf -ngl 99 --host 0.0.0.0

llama.cpp автоматически распределит слои между видимыми GPU. Проверить потребление VRAM можно через nvidia-smi в реальном времени.

Типичные грабли и как их обойти

• Карта не определяется после патча — попробуйте другой слот, отключите Secure Boot в BIOS.
• Высокая температура (выше 85°C) — купите два 120мм вентилятора и примотайте стяжками к радиатору. Работает.
• Система зависает при загрузке llama.cpp — возможно, не хватает лимита памяти. Добавьте vm.max_map_count=262144 в /etc/sysctl.conf.
• Карты работают только на x1 или x2 вместо x4 — проверьте слоты. Если материнка режет второй слот до x1, это фатально. Выбирайте плату с двумя слотами, работающими как x4/x4.
• CUDA ошибка 999 — драйвер несовместим с патчем. Откатитесь до версии 550.120 и наложите патч заново.

FAQ: коротко о главном

В статье про ферму из 6 карт я описал схожие проблемы с питанием и охлаждением. P102-100 — логичное продолжение идеи: не платить за дорогие решения, а изобретать велосипед. В 2026 году этот велосипед ещё едет.

Лично я использую такую сборку как дешёвый тестовый стенд для проверки новых квантований. 20 ГБ VRAM позволяют запускать все модели до 30B, а за $100 — это лучший вариант для тех, у кого руки растут из плеч. Ожидаю, что через год P102-100 упадут в цене до $30, и можно будет собрать 60 ГБ VRAM за $180. Но это уже совсем другая история.

Подписаться на канал