Whisper на стероидах: Как выжать из AMD Ryzen AI в 5 раз больше транскрипций в секунду

Почему ваш Ryzen AI NPU простаивает, а Whisper еле ползет

У вас ноутбук с Ryzen AI, вы скачали Whisper, запустили транскрипцию часового подкаста... и ждете 15 минут. Процессор гудит, кулер взлетает в космос, а специальный нейропроцессор (NPU) просто смотрит в потолок и курит бамбук.

Так было до февраля 2026. Пока не появился форк whisper.cpp с поддержкой XDNA2. Теперь вместо 1x скорости на CPU можно получить 5x на NPU. Без шума, без лишнего нагрева, почти без потребления энергии.

Что такое Lemonade и почему он лучше обычной установки

Lemonade - это пакетный менеджер для Windows, который не просто устанавливает программы, а собирает их из исходников с оптимизациями под ваше железо. В отличие от pip или conda, он учитывает специфику NPU и собирает whisper.cpp с правильными флагами компиляции.

Без Lemonade вам пришлось бы вручную:

• Скачивать исходники whisper.cpp
• Устанавливать Visual Studio Build Tools
• Настраивать CMake с флагами для XDNA2
• Компилировать с правильными оптимизациями
• Молиться, чтобы все собралось

С Lemonade это одна команда. И она работает.

Подготовка: что нужно проверить перед началом

Прежде чем что-то ломать, убедитесь в трех вещах:

1 Ваш процессор поддерживает XDNA2

Откройте диспетчер задач (Ctrl+Shift+Esc), перейдите на вкладку "Производительность". Внизу должна быть строка "AMD Ryzen AI Engine". Если ее нет - у вас не та версия процессора.

2 Windows 11 версии 24H2 или новее

Нажмите Win+R, введите "winver". Должна быть хотя бы версия 24H2. Более старые версии не имеют полноценной поддержки NPU API.

3 Драйверы AMD установлены

Зайдите в AMD Software и проверьте обновления. Должна быть версия драйверов не ниже 24.12.1. Если у вас более старые драйверы, NPU может работать некорректно.

Установка Lemonade: быстрый старт

Открываем PowerShell от имени администратора и вводим:

winget install --id Lemonade.Lemonade -e

Ждем пару минут. Lemonade установится в папку C:\Users\%USERNAME%\.lemonade. После установки перезагружаем PowerShell и проверяем:

lemonade --version

Должна появиться версия 2.1.0 или новее (на февраль 2026 это актуальная версия).

Установка whisper.cpp с поддержкой NPU

Теперь самое интересное. В обычном PowerShell (не от администратора) выполняем:

lemonade install whisper-npu

Что происходит под капотом:

1. Lemonade скачивает форк whisper.cpp с поддержкой XDNA2
2. Компилирует его с флагами -DWHISPER_XDNA2=ON
3. Собирает все зависимости (ggml, libsndfile)
4. Устанавливает в ~/.lemonade/bin
5. Добавляет путь в переменную окружения PATH

Процесс занимает 5-10 минут в зависимости от скорости интернета и процессора.

Скачивание модели Whisper

Форк поддерживает все стандартные модели Whisper, но для NPU оптимальны medium или large-v3. Tiny и base слишком легкие, разница в скорости будет незаметна.

Скачиваем модель large-v3:

# Создаем папку для моделей
mkdir -p ~/.cache/whisper
cd ~/.cache/whisper

# Скачиваем модель large-v3 (самая точная на февраль 2026)
curl -L -o ggml-large-v3.bin https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3.bin

Первая транскрипция с NPU

Создайте тестовый аудиофайл или возьмите любой MP3/WAV. Запускаем:

whisper-npu -m ~/.cache/whisper/ggml-large-v3.bin -f input.mp3 -of output.txt --npu

Ключевой флаг здесь --npu. Без него whisper будет работать на CPU. С ним - задействует нейропроцессор.

Первые 2-3 секунды уйдут на инициализацию NPU. Затем вы увидите реальную магию: прогресс-бар будет двигаться в 3-5 раз быстрее.

Тесты производительности: цифры не врут

Я протестировал на Ryzen AI 9 HX 370 с 32 ГБ ОЗУ. Файл - 45 минут подкаста (моно, 16kHz).

Гибридный режим использует NPU для основных вычислений и CPU для постобработки. Самый быстрый вариант, но чуть более прожорливый.

Оптимизация под разные сценарии

Whisper - не единственный игрок на поле. Если нужно разделение по спикерам, смотрите в сторону LFM2-2.6B-Transcript. Она умеет диаризацию из коробки.

Для пакетной обработки множества файлов:

# Обработка всех MP3 в папке
for file in ./audio/*.mp3; do
    whisper-npu -m ~/.cache/whisper/ggml-large-v3.bin -f "$file" -of "${file%.mp3}.txt" --npu --language en
    echo "Обработан: $file"
done

Флаг --language en указывает язык и ускоряет обработку на 15-20%.

Почему это работает быстрее? Технические детали

XDNA2 архитектура оптимизирована для матричных умножений 8-битных целых чисел (int8). Whisper преобразуется в формат GGML, который как раз использует int8 квантование.

NPU имеет:

• Выделенные ядра для матричных операций
• Собственную память с низкой латентностью
• Оптимизированные инструкции для трансформеров
• Энергоэффективность в 10 раз выше CPU

Когда вы запускаете whisper на CPU, он конкурирует за ресурсы с системными процессами. NPU работает изолированно и не мешает другим задачам.

Частые ошибки и их решение

Ошибка: "NPU device not found"

Проверьте:

# Проверяем доступность NPU через PowerShell
Get-WmiObject Win32_PNPEntity | Where-Object {$_.Name -like "*AMD Ryzen AI Engine*"}

Если устройство не найдено, переустановите драйверы AMD или обновите Windows.

Ошибка: "Failed to initialize NPU context"

Обычно возникает при нехватке памяти NPU. Уменьшите размер контекста:

whisper-npu -m model.bin -f audio.mp3 --npu --ctx-size 512

По умолчанию ctx-size = 768.

Медленная скорость после первых 10 секунд

NPU перегревается и троттлит. Проверьте температуру через HWiNFO64. Если выше 85°C - улучшите охлаждение ноутбука.

Сравнение с другими решениями

Пока вы читаете эту статью, другие тоже пытаются ускорить Whisper. Но у каждого подхода свои косяки:

• CUDA на NVIDIA: Быстро, но требует дорогой видеокарты и жрет 150+ Вт
• Vulkan на AMD iGPU: Работает, но медленнее NPU на 30-40%
• DirectML: Теоретическая поддержка, на практике стабильность хромает
• Облачные API: Быстро, но платно + ваши данные у третьих лиц

NPU решение - золотая середина: быстро, локально, энергоэффективно.

Что делать, если нужна поддержка Linux

На Linux ситуация сложнее. Драйверы AMD ROCm для NPU пока в зачаточном состоянии. Но можно попробовать настройку через ROCm. Или использовать CPU-оптимизации из статьи про Ubuntu и llama.cpp.

Альтернативы: когда Whisper не подходит

Whisper хорош для общего распознавания, но есть специализированные инструменты:

• Qwen3-ASR: Лучше справляется с китайским и японским
• Scriberr: Оптимизирован для подкастов с шумным фоном
• WhisperKit: Имеет встроенную постобработку текста

Подробное сравнение в гайде по выбору STT-движка.

Будущее: что ждет NPU-ускорение в 2026-2027

AMD обещает в следующих поколениях Ryzen AI:

• Поддержку FP16 вычислений (сейчас только int8)
• Увеличение памяти NPU с 2GB до 4-8GB
• Более тесную интеграцию с Windows DirectML
• Поддержку в WSL2 для Linux-разработчиков

Это значит, что скоро на NPU можно будет запускать не только транскрипцию, но и речевых AI-тренеров и даже маленькие LLM.

Итог: ваш ноутбук теперь станция транскрипции

Раньше для быстрой транскрипции нужен был либо облачный API, либо мощная видеокарта. Теперь достаточно ноутбука с Ryzen AI.

Основные преимущества:

• Скорость: 5x быстрее CPU
• Энергия: В 5 раз меньше потребления
• Тишина: Кулеры почти не шумят
• Локальность: Данные никуда не уходят
• Бесплатно: Никаких подписок

Потратьте 15 минут на настройку - сэкономите часы ожидания в будущем. И забудьте про облачные сервисы с их лимитами и политиками конфиденциальности.

P.S. Если выйдет обновление whisper-npu - обновляйтесь через lemonade update whisper-npu. Разработчики постоянно улучшают совместимость и добавляют новые модели.