1 ноября 2026 года в r/LocalLLaMA появился короткий пост «7900xtx got speedup». Пользователь /u/darc_knigh написал, что владельцам RX 7900 XTX, которые запускают Qwen3 27B, стоит посмотреть на GitHub-репозиторий thefahien/elpis-on-7900xtx, и назвал результат «super nice speedup». Исходное сообщение на этом заканчивается: ни цифр, ни методики замеров, ни состава стека, ни требований к окружению в нём нет.
Речь о стороннем репозитории, не связанном с AMD или Alibaba/Qwen. Заявленное ускорение пока остаётся ориентиром: подтвердить или опровергнуть его можно только замерами на своей машине. Проект Elpis, судя по адресации, собран вокруг одной связки: 27B-модель Qwen и Radeon RX 7900 XTX.
Ниже три полезные для владельца карты вещи: что именно известно из первоисточника, какие слои стека обычно затрагивают подобные сборки и как измерить эффект так, чтобы не обмануть себя.
Что известно о проекте Elpis и заявленном ускорении
Кто и где заявил об ускорении
Первоисточник один: пост в r/LocalLLaMA от пользователя /u/darc_knigh, опубликованный 1 ноября 2026 года. В тексте две содержательные части: ссылка на репозиторий thefahien/elpis-on-7900xtx и оценка «it's a super nice speedup». Модель в сообщении названа qwen3.8 27B, карта указана как rx7900xtx.
Дальше начинаются пробелы. Нет версии ROCm, типа квантизации, длины контекста, названия движка инференса и способа замера скорости. Нет скриншотов с tokens/s и нет сравнения с базовым запуском. Для темы локального инференса это типичная картина: находку публикуют одной фразой со ссылкой, а детали живут уже в README и конфигах репозитория.
Практический вывод из этой части простой: факт существования репозитория подтверждён, а величина прироста нет. Всё, что дальше будет сказано о скорости, относится к категории «надо проверить».
Почему к заявлению стоит относиться как к ориентиру
Причин для осторожности четыре. Источник единственный. Независимых замеров нет. Методика не описана. Условия запуска неизвестны, а именно они чаще всего определяют разницу в tokens/s.
Второй момент: даже подтверждённые сторонние доработки под AMD ведут себя по-разному на разных системах. История с форком llama.cpp для Radeon VII, MI50 и MI60 показывает, как смена подхода меняет оценку прежних ускорений: то, что год назад казалось выигрышем, после пересборки выглядит иначе. Фраза «super nice speedup» без числа не позволяет понять, идёт речь о 5% или о двукратном росте.
Что именно предлагает репозиторий elpis-on-7900xtx
По исходному сообщению известен только факт: репозиторий существует, принадлежит аккаунту thefahien и адресован тем, кто запускает 27B-модель Qwen на RX 7900 XTX. Состав стека, зависимости и требования к окружению нужно читать в README и файлах проекта: другого подтверждённого описания нет. Название Elpis относится к имени репозитория, а не к официальному продукту AMD или Qwen.
Какие компоненты стека обычно затрагивают такие оптимизации
Выигрыш в локальном инференсе на AMD почти всегда складывается из нескольких слоёв. Полезно держать их в голове, читая чужой README.
- Драйвер amdgpu и прошивка. Версия ядра и драйвера влияет на стабильность и на то, какие инструкции доступны.
- Runtime ROCm/HIP. Разные версии ROCm по-разному работают с памятью и с ядрами для конкретной архитектуры.
- Движок инференса. Сборка под gfx1100 (обозначение RDNA 3 в терминах ROCm), набор флагов компиляции, включённые ядра внимания.
- Параметры запуска. Сколько слоёв уходит на GPU, размер батча, тип KV-кэша, длина контекста.
- Квантизация весов. Q4_K_M, Q5, Q8_0 дают разную скорость и разный аппетит к VRAM.
Кратный прирост редко приходит от одного флага. Обычно это комбинация: удачная сборка плюс подобранные параметры плюс правильный формат весов. Что именно задействовано в elpis-on-7900xtx, из сообщения не следует, поэтому конкретику берите из репозитория.
Какие зависимости и требования к окружению проверять в первую очередь
Чек-лист для чтения README, по пунктам, которые чаще всего ломают установку:
| Пункт | Что искать в репозитории | Почему важно |
|---|---|---|
| Версия ROCm | Точный номер, а не «последняя» | Наборы ядер и API меняются между релизами |
| Ядро и драйвер amdgpu | Минимальная версия, иногда конкретный дистрибутив | Старые драйверы дают ошибки HIP и падения |
| Дистрибутив Linux | Поддерживаемые семейства, шаги установки пакетов | Готовых инструкций под Windows обычно нет |
| Объём VRAM | Ограничения по длине контекста и батчу | 24 ГБ у RX 7900 XTX хватает не на любую комбинацию |
| Формат и ревизия модели | GGUF или другой формат, точное имя файла | Другая квантизация даст другую скорость |
| Движок и флаги сборки | Репозиторий движка, коммит, параметры компиляции | Без совпадения версий результат невоспроизводим |
| Python-зависимости | Версии пакетов, наличие venv или контейнера | Конфликты окружения ломают запуск |
Точные значения перечисленного выше статья не подставляет: их нужно брать из самого проекта. Если в README нет версии ROCm и коммита движка, воспроизвести замеры будет сложно.
Чем это отличается от стандартного запуска Qwen3 27B на ROCm
Стандартный путь: ROCm и движок инференса
Базовый сценарий выглядит так: поставить ROCm, собрать или установить движок инференса с поддержкой HIP, скачать веса Qwen3 27B в подходящей квантизации, запустить сервер и замерить скорость. ROCm в этой схеме отвечает за вычисления на GPU AMD, а сборка движка должна учитывать архитектуру карты.
Практический пример такого маршрута на младшей карте разобран в материале про запуск Qwen 3.6 35B A3B на RX 7600 с llama.cpp и ROCm 7: там 8 ГБ VRAM, разбор каждого флага и прямая зависимость результата от настроек. Логика та же, что и на 7900 XTX, только запаса памяти больше.
Что меняет подход из репозитория
Судя по позиционированию, elpis-on-7900xtx фиксирует конкретную комбинацию версий, флагов и параметров запуска под связку Qwen3 27B и RX 7900 XTX. Что именно изменено, отдельная это сборка движка, набор патчей или только скрипты запуска, из исходного сообщения не следует. Утверждать конкретику без README нельзя.
Характер изменений задаёт и цену. Готовый рецепт экономит время на подбор флагов, зато привязывает к версиям ROCm и драйвера: после обновления системы настройки могут перестать работать или выдать другую скорость. Сравнения с базовым запуском в первоисточнике нет, поэтому дельту можно получить только собственными замерами.
Как самостоятельно проверить заявленное ускорение
Схема простая: одна машина, две конфигурации, одинаковые промпты, несколько прогонов. Похожая логика разбора неподтверждённых заявлений описана в материале про kvarn в форке beellama и в разборе запуска Qwen3.8-Flash-Next на четырёх R9700 через vLLM.
Метрики и условия, которые нужно фиксировать
| Что фиксировать | Как | Зачем |
|---|---|---|
| Prompt processing, токенов/с | Один и тот же длинный промпт | Основная часть выигрыша часто именно здесь |
| Generation, токенов/с | Фиксированное число новых токенов | Показывает скорость диалога |
| Время до первого токена | Замер от отправки запроса | Важно для интерактивной работы |
| Длина контекста | Одна и та же для обеих конфигураций | Влияет на память и скорость сильнее многих флагов |
| Квантизация и ревизия модели | Имя файла и хеш | Разные веса дают разные цифры |
| Версии движка, ROCm, драйвера | Записать перед тестом | Без этого результат не повторить |
| Температура, частоты, потребление | Логировать во время прогона | Троттлинг маскируется под «ускорение» |
Модель прогрейте перед замерами и делайте 3-5 прогонов, ориентируясь на медиану. Разброс между прогонами может оказаться больше искомого прироста, и тогда честный вывод один: эффект не подтверждён.
Красные флаги при проверке
- Падения, зависания и ошибки HIP в логах при старте.
- Артефакты в выводе: повторы, обрывы фраз, потеря связности.
- Резкое падение скорости после прогрева, признак троттлинга.
- Большой разброс результатов между одинаковыми прогонами.
- Нулевая разница там, где обещан заметный прирост.
Держите рабочую конфигурацию отдельно, чтобы откатиться за пару минут. Это дешевле, чем восстанавливать окружение после неудачного эксперимента с версиями ROCm.
Стоит ли пробовать: кому подходит и какие риски
Кому конфигурация даст больше смысла
Пробовать имеет смысл в трёх случаях: есть отдельное тестовое окружение или свободный диск под вторую систему; базовый запуск упирается в скорость и мешает работе; вы готовы читать README и сверять версии. Для рабочих задач, где простой системы стоит денег, переходить на чужую конфигурацию разумно только после собственных замеров и проверки стабильности на своих промптах.
Как минимизировать риски
- Снимок системы или отдельный раздел диска перед установкой.
- Фиксация версий ROCm, драйвера и движка в заметках.
- Резервная копия рабочей конфигурации и скриптов запуска.
- Проверка даты последнего коммита и открытых issues в репозитории: заброшенный проект придётся сопровождать самому.
- Постепенное усложнение: сначала короткий контекст, потом длинный, потом агентные сценарии.
Главные риски: нестабильность, конфликты версий ROCm и драйвера, отсутствие поддержки со стороны автора, устаревание инструкций и потерянное время при нулевом приросте. Отдельно про память: 24 ГБ VRAM у RX 7900 XTX дают рабочий запас для 27B-модели в квантизации, но не бесконечный. Длинный контекст и KV-кэш съедают гигабайты, и на больших окнах картина меняется по сравнению с короткими тестами.
Вывод: что делать владельцу RX 7900 XTX
- elpis-on-7900xtx это повод проверить, а не гарантия ускорения: цифр и методики в первоисточнике нет.
- Стек, зависимости и требования к окружению берите из README репозитория, а не из пересказов.
- Сравнение с обычным запуском на ROCm делайте на своей машине, по одной длине контекста и одному промпту.
- Риски управляемы, если тестировать в отдельном окружении и хранить резервную копию рабочей конфигурации.
Практический шаг: откройте репозиторий, прочитайте README, выпишите версии ROCm, драйвера и движка, затем прогоните базовую конфигурацию и конфигурацию Elpis на одинаковых промптах. Заявление об ускорении исходит от одного пользователя и независимыми тестами не подтверждено. Решение принимайте по своим цифрам, а не по фразе «super nice speedup».