Перейти к содержанию
Публикация AiManual

Как один разработчик с ИИ-агентами собрал на Rust движок распознавания речи, UI-библиотеку и упаковщик за месяц

Разбор кейса: как один разработчик с ИИ-агентами за месяц собрал на Rust приложение Wavo, движок wavo на wgpu, библиотеку nimbo и упаковщик shipo. Что показали

Коротко

Что будет в материале

  1. 01

    Что получилось за месяц: четыре проекта вместо одной программы

  2. 02

    Движок wavo: распознавание речи на Rust через wgpu и WGSL

  3. 03

    Замеры скорости на M5 и RTX 4060 и сравнение с альтернативами

  4. 04

    UI-стек: почему GPUI Kit не подошёл и чем обернулся выбор GTK 3 на Linux

За месяц один разработчик при помощи ИИ-агентов собрал четыре связанных проекта на Rust: приложение для диктовки Wavo, движок распознавания речи wavo, кросс-платформенную UI-библиотеку nimbo и упаковщик с автообновлением shipo. Поводом стало раздражение от конкретной программы. Автор диктовал текст через Handy и хотел нативное приложение: «мне жутко не нравилось, что она написана на Tauri, хотелось чего-то нативного». Итог он описывает так: «вместо одной маленькой программы родились свой движок распознавания речи на чистом Rust через wgpu, библиотека для кросс-платформенного интерфейса и упаковщик под macOS, Windows и Linux». Обе цитаты - из текста автора на Habr.

Роли частей разделяются просто. Wavo - то, чем пользуется человек: окно настроек и цветная плашка записи. wavo - вычислительное ядро, которое превращает звук в текст на wgpu через шейдеры WGSL. nimbo - слой интерфейса, чтобы не писать три раза одно и то же под AppKit, Win32 и GTK. shipo - доставка: установщики под три ОС и обновления с подписью Ed25519 через update.txt.

Дальше разберём движок, его замеры скорости, историю смены GUI-фреймворков, схему упаковки и границы применимости. Сразу оговорка: все цифры ниже принадлежат автору кейса, независимой проверки не было, а часть технических деталей в доступном описании проекта дана тезисами.

Что получилось за месяц: четыре проекта вместо одной программы

Почему Handy на Tauri перестала устраивать

Handy - программа для диктовки, которой автор пользовался в работе с ИИ-агентами. Претензия к ней одна и конкретная: стек. Приложение написано на Tauri, а нужен был нативный клиент. Из этой неудовлетворённости вырос собственный проект, и это важная деталь для оценки всего кейса: отправной точкой стало не желание сделать «ещё один клиент Whisper», а отказ от конкретной архитектуры.

Позже автор Handy выделил движок распознавания речи в отдельный проект transcribe.cpp. Для истории Wavo это значит две вещи. Движок и приложение действительно можно разделять. И линковка transcribe.cpp стала одной из причин, по которым первая версия интерфейса пересобиралась слишком долго.

Четыре проекта и их роли: Wavo, wavo, nimbo, shipo

ПроектРоль в стекеЧто известно
Wavoприложение для диктовкиокно настроек, цветная плашка записи
wavoдвижок распознавания речичистый Rust, вычисления на wgpu через шейдеры WGSL, собственный FFT вместо rustfft
nimboUI-библиотекакросс-платформенный интерфейс поверх AppKit, Win32 и GTK
shipoупаковщик с автообновлениемустановщики под macOS, Windows и Linux, обновление через update.txt с подписью Ed25519

Части связаны между собой: Wavo вызывает wavo, рисует интерфейс через nimbo и обновляется через shipo. Один человек закрыл весь путь от инференса до доставки обновлений, и именно это делает кейс интересным. По отдельности каждый проект решает знакомую задачу, вместе они образуют готовый десктопный продукт.

Движок wavo: распознавание речи на Rust через wgpu и WGSL

Движок написан на чистом Rust, вычисления идут через wgpu на шейдерах WGSL. Практический смысл в переносимости: wgpu даёт один API поверх Metal на macOS, Vulkan и DX12 на остальных платформах, и отдельная ветка под CUDA не нужна. Для соло-разработчика это экономит целый бэкенд.

По описанию автора, звук проходит цепочку: длинное аудио режется на куски, через FFT превращается в спектрограмму, энкодер преобразует её в векторы, а декодер CTC, RNN-T или TDT выдаёт текст. Из моделей в доступных фрагментах прямо упомянуты Parakeet от NVIDIA для английского и модели в формате GGUF от автора transcribe.cpp. Полный список поддержанных моделей движка wavo, включая GigaAM v3 и версии Parakeet, в переданных материалах не подтверждён: эти названия фигурируют в описании темы, но не в подтверждающих фрагментах. Какие именно версии и квантования проверены, тоже не уточняется.

Почему GGUF хранит только веса

В разборе кейса отдельно отмечено: GGUF содержит веса, а не всю логику инференса. Для практики это значит, что загрузка файла модели не даёт готового распознавания. Токенизатор, препроцессинг аудио с окнами и мел-спектрограммой, постпроцессинг с нормализацией текста живут в коде движка. При переносе модели из whisper.cpp или transcribe.cpp эту обвязку приходится писать заново и сверять с эталоном.

Отсюда типичная ошибка при сравнении движков: одинаковый файл весов и разные цифры качества. Причина часто не в модели, а в обвязке. Подробной спецификации формата в доступных материалах нет, поэтому воспринимайте тезис «только веса» как напоминание о границе между файлом модели и кодом вокруг него.

Собственный FFT вместо rustfft

В wavo вместо библиотеки rustfft работает собственный FFT. Автор приводит конкретику: вышло 176 строк кода против 55 тысяч в rustfft, а пересборка ускорилась с 11,9 до 2,1 секунды. Преобразование нужно на входе: аудио превращается в спектрограмму, и от скорости этого шага зависит задержка перед выдачей первого слова.

Обратите внимание, что цифра ускорения пересборки относится к сборке проекта, а не к скорости самого преобразования на инференсе. Утверждать, что собственный FFT быстрее rustfft в работе, оснований нет: таких замеров в доступных материалах нет. Это инженерный выбор со своей ценой. Свой код нужно тестировать на граничных размерах окон и на точности, а поддержка ложится на автора. Для проекта, где весь смысл в контроле над вычислениями, цена приемлемая. Для команды, которой нужен предсказуемый результат, лишний самописный компонент в критическом пути - риск.

Flash attention и матричные блоки: что реально влияет на скорость

В описании кейса названы два фактора, влияющих на скорость: flash attention и размер матричных блоков. Flash attention меняет порядок работы с вниманием: блоки считаются порциями в быстрой памяти рядом с ядрами видеокарты, и таблица внимания целиком в память не выгружается. Выигрыш растёт с длиной последовательности, поэтому на короткой фразе эффект почти незаметен, а на длинной записи становится существенным.

Матричные блоки работают иначе: чем крупнее блок, который шейдер обрабатывает за один проход, тем меньше накладных расходов на запуск и на чтение данных из памяти. Для распознавания речи это проявляется на длинных файлах, где энкодер держит сотни кадров.

Процентов ускорения от каждой оптимизации в доступных материалах нет. Сравнить вклад flash attention и размера блока нечем, поэтому относитесь к этим тезисам как к направлению для собственных замеров. На разном железе и разных моделях вклад меняется.

Замеры скорости на M5 и RTX 4060 и сравнение с альтернативами

Автор приводит замеры на двух платформах: MacBook Air на чипе M5 и система с RTX 4060. Сравнение идёт с transcribe.cpp, parakeet.cpp и sherpa-onnx. Числовые таблицы остаются в оригинале, здесь разберём конфигурации, методику и то, как читать такие цифры, не обманываясь.

M5: что показывает новый MacBook Air

Контекст: автор сменил MacBook M2 в старом корпусе на Air M5 без вентилятора. Пассивное охлаждение означает, что при длительной нагрузке чип упирается в тепловой лимит, и короткий тест на десять секунд показывает не то же самое, что час диктовки. Для распознавания речи это критично: длинная запись держит GPU занятым минутами.

Смотреть на M5 стоит две метрики. Время до первого слова отвечает на вопрос, годится ли движок для живой диктовки, когда текст нужен сразу. Real-time factor на длинном файле показывает, сколько аудио разбирается за секунду работы. Без вентилятора обе цифры зависят от того, сколько движок уже проработал до замера, и это стоит проверять самому на своих файлах.

RTX 4060: сравнение с transcribe.cpp, parakeet.cpp и sherpa-onnx

На стороне NVIDIA сравнение идёт с тремя движками. transcribe.cpp - тот самый движок, который автор Handy выделил в отдельный проект. parakeet.cpp и sherpa-onnx - известные ориентиры для задачи распознавания. Разница между ними определяется не только ядрами, но и набором поддержанных моделей и квантований.

Качественно автор описывает картину так: на маках его библиотека опережала конкурентов по скорости, а на Windows с видеокартой NVIDIA был большой провал, который он связывает с отсутствием flash attention. Конкретных чисел в переданных фрагментах нет, поэтому сравнение остаётся качественным.

Как читать такое сравнение, чтобы не сделать ложных выводов. Нужны одинаковый файл весов, одинаковый аудиофайл и одинаковый способ измерения. Если в одном движке включена нарезка по паузам и VAD, а в другом нет, цифры разойдутся по причинам, не связанным с оптимизацией шейдеров. Из доступного описания не следует, в каких сценариях wavo обгоняет альтернативы, а где уступает: это вопрос к таблицам в оригинале.

Чего замеры не показывают: AMD Radeon и другие ограничения

Автор прямо оговаривает: все замеры он делал на RTX 4060, а на AMD Radeon не тестировал вовсе. Для владельцев RDNA-карт это ключевое ограничение. wgpu умеет работать через Vulkan, но драйверный путь на Radeon отличается, и переносить цифры с RTX 4060 на RX 7900 нельзя. Результат может оказаться как лучше, так и заметно хуже, и до появления замеров это неизвестность.

Остальные ограничения методологии: одно железо, конкретные версии драйверов и моделей, один человек за замерами, независимой проверки нет. Если вы собираетесь использовать wavo в рабочем процессе, свои измерения на своём железе придётся делать самому. Замеры автора годятся как ориентир порядка величин, не как гарантия.

UI-стек: почему GPUI Kit не подошёл и чем обернулся выбор GTK 3 на Linux

Первая версия Wavo была собрана на GPUI Kit и, по оценке автора, получилась неплохо: приложение с открытым окном занимало около 80 МБ оперативной памяти. Дальше начались издержки, которые в соло-проекте бьют сильнее, чем кажется.

Цена GPUI Kit: компиляция, 400+ зависимостей и dev-API

  • Компиляция была очень долгой: часть времени уходила на сам GPUI Kit, часть на линковку transcribe.cpp, около минуты при каждой пересборке.
  • GPUI Kit тянет больше 400 зависимостей, метафора автора - «прямо как в Node.js».
  • GPUI от Zed не выпускает стабильных релизов, поэтому GPUI Kit сидит на dev-версии из репозитория Zed, и API может поменяться в любой момент.
  • Готовых интеграций с системой нет: иконку в трее и нативное контекстное меню приходится писать самому.

Для программы диктовки трей и контекстное меню - основной способ управления, а не украшение. Минута на пересборку поверх нестабильного API означает, что заметная часть рабочего времени уходит на борьбу со сборкой вместо задачи.

egui как промежуточный вариант

Следующая попытка - egui. Автор отмечает: оказался быстрее и легче по памяти, крейтов тянул меньше. Для задачи «нарисовать окно настроек и плашку записи» этого достаточно. Дальше начинается то, ради чего всё затевалось: нативные контролы, поведение окна в системе, интеграция с треем. Здесь egui готового ответа не даёт, и следующий шаг - биндинги к платформенным API.

Нативные контролы и рождение nimbo

Автор попробовал нативные контролы через Rust-биндинги к AppKit, Win32 и GTK. Результат он описывает без восторга: «по сути пришлось писать гигантскую кучу кода интеграции и повторять это минимум три раза». Одинаковые задачи - окно, поля, меню, горячие клавиши, диалоги - в трёх API решаются по-разному, общего слоя нет.

Из этой боли выросла nimbo, кросс-платформенная UI-библиотека. Её задача - дать один набор абстракций поверх трёх платформ, чтобы приложение писалось один раз. Цена очевидна: библиотеку поддерживает один человек, и любые изменения в AppKit, Win32 или GTK становятся его работой. Деталей API, состояния проекта и лицензии в доступных материалах нет.

Почему на Linux выбран GTK 3

На Linux автор работал с Rust-биндингами к GTK. Конкретный выбор между GTK 3 и GTK 4 и аргументы в пользу третьей версии в переданных фрагментах не подтверждены: там упоминаются только биндинги к GTK на Linux без сравнения версий. Поэтому тезис о зрелости биндингов GTK 3 и предсказуемости в дистрибутивах стоит воспринимать как требующий проверки по оригиналу, а не как установленный факт.

Тот же принцип, о котором автор говорит прямо, - меньше слоёв и зависимостей, ближе к нативному поведению системы: VS Code он заменил на Zed, Chrome на Helium.

Упаковка и автообновление: shipo, подпись Ed25519 и update.txt

Четвёртая часть стека отвечает за доставку. shipo - упаковщик с автообновлением под macOS, Windows и Linux. Для соло-разработчика это критичная часть: приложение, которое нечем обновить, умирает на первой серьёзной ошибке, а пользователь возвращается к готовому конкуренту.

Сборка установщиков под macOS, Windows и Linux с одной машины

Задача shipo - собрать установщики для трёх ОС с одной машины, без трёх сборочных окружений и ручной возни с каждым форматом. Экономия здесь не в секундах, а в том, что релиз не превращается в отдельный ритуал на полдня.

Границы подхода стоит понимать. Кросс-сборка установщика не равна проверке на целевой ОС: подпись и notarization для macOS, поведение SmartScreen и работа с системными библиотеками на Windows и Linux требуют прогона на реальной системе. Заменяет ли shipo CI целиком, из доступных материалов не следует, но как способ сократить ручную работу над релизом он выглядит полезным.

Автообновление через update.txt с подписью Ed25519

Схема, заявленная в кейсе: клиент читает файл update.txt, находит сведения о новой версии и проверяет подпись Ed25519 перед установкой. Смысл подписи в защите от подмены. Манифест может лежать на обычном хостинге или в CDN, изменить его способен кто угодно, а подделать подпись без приватного ключа нельзя.

Что схема даёт: не нужен собственный сервер обновлений, достаточно статического файла, а клиент отказывается ставить сборку с неверной подписью. Что она не решает: компрометацию приватного ключа, откат на старую подписанную версию без проверки номера сборки и защиту от подмены самого клиента. Формат полей update.txt и способ доставки файла в доступных материалах не раскрыты, а сама схема с update.txt и Ed25519 в переданных фрагментах не подтверждена: там Ed25519 фигурирует в контексте другого проекта и общей библиотеки ed25519-dalek. Поэтому воспринимайте схему как контур из описания темы, а не как готовую спецификацию.

Роль ИИ-агентов: что они ускорили и где пришлось контролировать

Автор работал над проектом с ИИ-агентами и за месяц довёл четыре проекта. Агенты хорошо ускоряют то, что поддаётся описанию: каркас окна, обвязку биндингов, разбор форматов, тесты, скрипты упаковки. Объём кода, который обычно растягивает соло-проект на месяцы, здесь сократился до недель.

Решения, которые агенты не принимали: уйти с Tauri, взять wgpu и WGSL, отказаться от GPUI Kit, перейти на egui, начать nimbo, работать с GTK на Linux. Каждая из этих развилок оплачена переписыванием кода, и каждая потребовала оценки со стороны. Агент охотно сгенерирует тысячу строк на неверной основе, а проверять их придётся вручную.

Второй риск - поддержка. Код под конкретную задачу выглядит рабочим, но связи внутри него предсказуемы только для того, кто его писал и проверял. Четыре библиотеки на одного человека означают, что обновления в AppKit, Win32, GTK, wgpu и драйверах приходят к нему. Конкретных метрик по экономии времени и по доле сгенерированного кода в доступных материалах нет. Похожий по духу соло-проект на Rust, AI-ориентированная ОС с панелью управления, разобран в отдельном материале.

Кому подходит такой стек и где результаты пока не подтверждены

Стек имеет смысл в трёх случаях. Нужен нативный движок распознавания речи с контролем над вычислениями, а готовые обёртки не устраивают по стеку или набору моделей. Есть задача собрать кроссплатформенный десктоп на Rust и готовность вести собственный UI-слой. Важна автономность поставки, включая подписанные обновления без своего сервера.

Обратная сторона тоже конкретна. wavo работает через wgpu, и производительность зависит от драйверов, а на AMD Radeon замеров нет. Числа на M5 и RTX 4060 получены одним человеком на его железе без независимой проверки. Собственный FFT и nimbo добавляют две поверхности для багов, которые никто, кроме автора, не чинит. Часть тезисов о GGUF и оптимизациях в доступном описании дана без цифр, то есть остаётся качественной.

Если задача - просто диктовать текст, разумнее взять готовое: Handy, sherpa-onnx или обёртку над Whisper. Если нужен движок под свои модели, свой интерфейс и своя упаковка, кейс показывает, что такой проект реально собрать за месяц с ИИ-агентами. Сколько стоит поддерживать его на второй год, кейс не показывает. Полные таблицы замеров и детали реализации автор приводит в оригинальной статье.

Подписаться на канал