За месяц один разработчик при помощи ИИ-агентов собрал четыре связанных проекта на Rust: приложение для диктовки Wavo, движок распознавания речи wavo, кросс-платформенную UI-библиотеку nimbo и упаковщик с автообновлением shipo. Поводом стало раздражение от конкретной программы. Автор диктовал текст через Handy и хотел нативное приложение: «мне жутко не нравилось, что она написана на Tauri, хотелось чего-то нативного». Итог он описывает так: «вместо одной маленькой программы родились свой движок распознавания речи на чистом Rust через wgpu, библиотека для кросс-платформенного интерфейса и упаковщик под macOS, Windows и Linux». Обе цитаты - из текста автора на Habr.
Роли частей разделяются просто. Wavo - то, чем пользуется человек: окно настроек и цветная плашка записи. wavo - вычислительное ядро, которое превращает звук в текст на wgpu через шейдеры WGSL. nimbo - слой интерфейса, чтобы не писать три раза одно и то же под AppKit, Win32 и GTK. shipo - доставка: установщики под три ОС и обновления с подписью Ed25519 через update.txt.
Дальше разберём движок, его замеры скорости, историю смены GUI-фреймворков, схему упаковки и границы применимости. Сразу оговорка: все цифры ниже принадлежат автору кейса, независимой проверки не было, а часть технических деталей в доступном описании проекта дана тезисами.
Что получилось за месяц: четыре проекта вместо одной программы
Почему Handy на Tauri перестала устраивать
Handy - программа для диктовки, которой автор пользовался в работе с ИИ-агентами. Претензия к ней одна и конкретная: стек. Приложение написано на Tauri, а нужен был нативный клиент. Из этой неудовлетворённости вырос собственный проект, и это важная деталь для оценки всего кейса: отправной точкой стало не желание сделать «ещё один клиент Whisper», а отказ от конкретной архитектуры.
Позже автор Handy выделил движок распознавания речи в отдельный проект transcribe.cpp. Для истории Wavo это значит две вещи. Движок и приложение действительно можно разделять. И линковка transcribe.cpp стала одной из причин, по которым первая версия интерфейса пересобиралась слишком долго.
Четыре проекта и их роли: Wavo, wavo, nimbo, shipo
| Проект | Роль в стеке | Что известно |
|---|---|---|
| Wavo | приложение для диктовки | окно настроек, цветная плашка записи |
| wavo | движок распознавания речи | чистый Rust, вычисления на wgpu через шейдеры WGSL, собственный FFT вместо rustfft |
| nimbo | UI-библиотека | кросс-платформенный интерфейс поверх AppKit, Win32 и GTK |
| shipo | упаковщик с автообновлением | установщики под macOS, Windows и Linux, обновление через update.txt с подписью Ed25519 |
Части связаны между собой: Wavo вызывает wavo, рисует интерфейс через nimbo и обновляется через shipo. Один человек закрыл весь путь от инференса до доставки обновлений, и именно это делает кейс интересным. По отдельности каждый проект решает знакомую задачу, вместе они образуют готовый десктопный продукт.
Движок wavo: распознавание речи на Rust через wgpu и WGSL
Движок написан на чистом Rust, вычисления идут через wgpu на шейдерах WGSL. Практический смысл в переносимости: wgpu даёт один API поверх Metal на macOS, Vulkan и DX12 на остальных платформах, и отдельная ветка под CUDA не нужна. Для соло-разработчика это экономит целый бэкенд.
По описанию автора, звук проходит цепочку: длинное аудио режется на куски, через FFT превращается в спектрограмму, энкодер преобразует её в векторы, а декодер CTC, RNN-T или TDT выдаёт текст. Из моделей в доступных фрагментах прямо упомянуты Parakeet от NVIDIA для английского и модели в формате GGUF от автора transcribe.cpp. Полный список поддержанных моделей движка wavo, включая GigaAM v3 и версии Parakeet, в переданных материалах не подтверждён: эти названия фигурируют в описании темы, но не в подтверждающих фрагментах. Какие именно версии и квантования проверены, тоже не уточняется.
Почему GGUF хранит только веса
В разборе кейса отдельно отмечено: GGUF содержит веса, а не всю логику инференса. Для практики это значит, что загрузка файла модели не даёт готового распознавания. Токенизатор, препроцессинг аудио с окнами и мел-спектрограммой, постпроцессинг с нормализацией текста живут в коде движка. При переносе модели из whisper.cpp или transcribe.cpp эту обвязку приходится писать заново и сверять с эталоном.
Отсюда типичная ошибка при сравнении движков: одинаковый файл весов и разные цифры качества. Причина часто не в модели, а в обвязке. Подробной спецификации формата в доступных материалах нет, поэтому воспринимайте тезис «только веса» как напоминание о границе между файлом модели и кодом вокруг него.
Собственный FFT вместо rustfft
В wavo вместо библиотеки rustfft работает собственный FFT. Автор приводит конкретику: вышло 176 строк кода против 55 тысяч в rustfft, а пересборка ускорилась с 11,9 до 2,1 секунды. Преобразование нужно на входе: аудио превращается в спектрограмму, и от скорости этого шага зависит задержка перед выдачей первого слова.
Обратите внимание, что цифра ускорения пересборки относится к сборке проекта, а не к скорости самого преобразования на инференсе. Утверждать, что собственный FFT быстрее rustfft в работе, оснований нет: таких замеров в доступных материалах нет. Это инженерный выбор со своей ценой. Свой код нужно тестировать на граничных размерах окон и на точности, а поддержка ложится на автора. Для проекта, где весь смысл в контроле над вычислениями, цена приемлемая. Для команды, которой нужен предсказуемый результат, лишний самописный компонент в критическом пути - риск.
Flash attention и матричные блоки: что реально влияет на скорость
В описании кейса названы два фактора, влияющих на скорость: flash attention и размер матричных блоков. Flash attention меняет порядок работы с вниманием: блоки считаются порциями в быстрой памяти рядом с ядрами видеокарты, и таблица внимания целиком в память не выгружается. Выигрыш растёт с длиной последовательности, поэтому на короткой фразе эффект почти незаметен, а на длинной записи становится существенным.
Матричные блоки работают иначе: чем крупнее блок, который шейдер обрабатывает за один проход, тем меньше накладных расходов на запуск и на чтение данных из памяти. Для распознавания речи это проявляется на длинных файлах, где энкодер держит сотни кадров.
Процентов ускорения от каждой оптимизации в доступных материалах нет. Сравнить вклад flash attention и размера блока нечем, поэтому относитесь к этим тезисам как к направлению для собственных замеров. На разном железе и разных моделях вклад меняется.
Замеры скорости на M5 и RTX 4060 и сравнение с альтернативами
Автор приводит замеры на двух платформах: MacBook Air на чипе M5 и система с RTX 4060. Сравнение идёт с transcribe.cpp, parakeet.cpp и sherpa-onnx. Числовые таблицы остаются в оригинале, здесь разберём конфигурации, методику и то, как читать такие цифры, не обманываясь.
M5: что показывает новый MacBook Air
Контекст: автор сменил MacBook M2 в старом корпусе на Air M5 без вентилятора. Пассивное охлаждение означает, что при длительной нагрузке чип упирается в тепловой лимит, и короткий тест на десять секунд показывает не то же самое, что час диктовки. Для распознавания речи это критично: длинная запись держит GPU занятым минутами.
Смотреть на M5 стоит две метрики. Время до первого слова отвечает на вопрос, годится ли движок для живой диктовки, когда текст нужен сразу. Real-time factor на длинном файле показывает, сколько аудио разбирается за секунду работы. Без вентилятора обе цифры зависят от того, сколько движок уже проработал до замера, и это стоит проверять самому на своих файлах.
RTX 4060: сравнение с transcribe.cpp, parakeet.cpp и sherpa-onnx
На стороне NVIDIA сравнение идёт с тремя движками. transcribe.cpp - тот самый движок, который автор Handy выделил в отдельный проект. parakeet.cpp и sherpa-onnx - известные ориентиры для задачи распознавания. Разница между ними определяется не только ядрами, но и набором поддержанных моделей и квантований.
Качественно автор описывает картину так: на маках его библиотека опережала конкурентов по скорости, а на Windows с видеокартой NVIDIA был большой провал, который он связывает с отсутствием flash attention. Конкретных чисел в переданных фрагментах нет, поэтому сравнение остаётся качественным.
Как читать такое сравнение, чтобы не сделать ложных выводов. Нужны одинаковый файл весов, одинаковый аудиофайл и одинаковый способ измерения. Если в одном движке включена нарезка по паузам и VAD, а в другом нет, цифры разойдутся по причинам, не связанным с оптимизацией шейдеров. Из доступного описания не следует, в каких сценариях wavo обгоняет альтернативы, а где уступает: это вопрос к таблицам в оригинале.
Чего замеры не показывают: AMD Radeon и другие ограничения
Автор прямо оговаривает: все замеры он делал на RTX 4060, а на AMD Radeon не тестировал вовсе. Для владельцев RDNA-карт это ключевое ограничение. wgpu умеет работать через Vulkan, но драйверный путь на Radeon отличается, и переносить цифры с RTX 4060 на RX 7900 нельзя. Результат может оказаться как лучше, так и заметно хуже, и до появления замеров это неизвестность.
Остальные ограничения методологии: одно железо, конкретные версии драйверов и моделей, один человек за замерами, независимой проверки нет. Если вы собираетесь использовать wavo в рабочем процессе, свои измерения на своём железе придётся делать самому. Замеры автора годятся как ориентир порядка величин, не как гарантия.
UI-стек: почему GPUI Kit не подошёл и чем обернулся выбор GTK 3 на Linux
Первая версия Wavo была собрана на GPUI Kit и, по оценке автора, получилась неплохо: приложение с открытым окном занимало около 80 МБ оперативной памяти. Дальше начались издержки, которые в соло-проекте бьют сильнее, чем кажется.
Цена GPUI Kit: компиляция, 400+ зависимостей и dev-API
- Компиляция была очень долгой: часть времени уходила на сам GPUI Kit, часть на линковку transcribe.cpp, около минуты при каждой пересборке.
- GPUI Kit тянет больше 400 зависимостей, метафора автора - «прямо как в Node.js».
- GPUI от Zed не выпускает стабильных релизов, поэтому GPUI Kit сидит на dev-версии из репозитория Zed, и API может поменяться в любой момент.
- Готовых интеграций с системой нет: иконку в трее и нативное контекстное меню приходится писать самому.
Для программы диктовки трей и контекстное меню - основной способ управления, а не украшение. Минута на пересборку поверх нестабильного API означает, что заметная часть рабочего времени уходит на борьбу со сборкой вместо задачи.
egui как промежуточный вариант
Следующая попытка - egui. Автор отмечает: оказался быстрее и легче по памяти, крейтов тянул меньше. Для задачи «нарисовать окно настроек и плашку записи» этого достаточно. Дальше начинается то, ради чего всё затевалось: нативные контролы, поведение окна в системе, интеграция с треем. Здесь egui готового ответа не даёт, и следующий шаг - биндинги к платформенным API.
Нативные контролы и рождение nimbo
Автор попробовал нативные контролы через Rust-биндинги к AppKit, Win32 и GTK. Результат он описывает без восторга: «по сути пришлось писать гигантскую кучу кода интеграции и повторять это минимум три раза». Одинаковые задачи - окно, поля, меню, горячие клавиши, диалоги - в трёх API решаются по-разному, общего слоя нет.
Из этой боли выросла nimbo, кросс-платформенная UI-библиотека. Её задача - дать один набор абстракций поверх трёх платформ, чтобы приложение писалось один раз. Цена очевидна: библиотеку поддерживает один человек, и любые изменения в AppKit, Win32 или GTK становятся его работой. Деталей API, состояния проекта и лицензии в доступных материалах нет.
Почему на Linux выбран GTK 3
На Linux автор работал с Rust-биндингами к GTK. Конкретный выбор между GTK 3 и GTK 4 и аргументы в пользу третьей версии в переданных фрагментах не подтверждены: там упоминаются только биндинги к GTK на Linux без сравнения версий. Поэтому тезис о зрелости биндингов GTK 3 и предсказуемости в дистрибутивах стоит воспринимать как требующий проверки по оригиналу, а не как установленный факт.
Тот же принцип, о котором автор говорит прямо, - меньше слоёв и зависимостей, ближе к нативному поведению системы: VS Code он заменил на Zed, Chrome на Helium.
Упаковка и автообновление: shipo, подпись Ed25519 и update.txt
Четвёртая часть стека отвечает за доставку. shipo - упаковщик с автообновлением под macOS, Windows и Linux. Для соло-разработчика это критичная часть: приложение, которое нечем обновить, умирает на первой серьёзной ошибке, а пользователь возвращается к готовому конкуренту.
Сборка установщиков под macOS, Windows и Linux с одной машины
Задача shipo - собрать установщики для трёх ОС с одной машины, без трёх сборочных окружений и ручной возни с каждым форматом. Экономия здесь не в секундах, а в том, что релиз не превращается в отдельный ритуал на полдня.
Границы подхода стоит понимать. Кросс-сборка установщика не равна проверке на целевой ОС: подпись и notarization для macOS, поведение SmartScreen и работа с системными библиотеками на Windows и Linux требуют прогона на реальной системе. Заменяет ли shipo CI целиком, из доступных материалов не следует, но как способ сократить ручную работу над релизом он выглядит полезным.
Автообновление через update.txt с подписью Ed25519
Схема, заявленная в кейсе: клиент читает файл update.txt, находит сведения о новой версии и проверяет подпись Ed25519 перед установкой. Смысл подписи в защите от подмены. Манифест может лежать на обычном хостинге или в CDN, изменить его способен кто угодно, а подделать подпись без приватного ключа нельзя.
Что схема даёт: не нужен собственный сервер обновлений, достаточно статического файла, а клиент отказывается ставить сборку с неверной подписью. Что она не решает: компрометацию приватного ключа, откат на старую подписанную версию без проверки номера сборки и защиту от подмены самого клиента. Формат полей update.txt и способ доставки файла в доступных материалах не раскрыты, а сама схема с update.txt и Ed25519 в переданных фрагментах не подтверждена: там Ed25519 фигурирует в контексте другого проекта и общей библиотеки ed25519-dalek. Поэтому воспринимайте схему как контур из описания темы, а не как готовую спецификацию.
Роль ИИ-агентов: что они ускорили и где пришлось контролировать
Автор работал над проектом с ИИ-агентами и за месяц довёл четыре проекта. Агенты хорошо ускоряют то, что поддаётся описанию: каркас окна, обвязку биндингов, разбор форматов, тесты, скрипты упаковки. Объём кода, который обычно растягивает соло-проект на месяцы, здесь сократился до недель.
Решения, которые агенты не принимали: уйти с Tauri, взять wgpu и WGSL, отказаться от GPUI Kit, перейти на egui, начать nimbo, работать с GTK на Linux. Каждая из этих развилок оплачена переписыванием кода, и каждая потребовала оценки со стороны. Агент охотно сгенерирует тысячу строк на неверной основе, а проверять их придётся вручную.
Второй риск - поддержка. Код под конкретную задачу выглядит рабочим, но связи внутри него предсказуемы только для того, кто его писал и проверял. Четыре библиотеки на одного человека означают, что обновления в AppKit, Win32, GTK, wgpu и драйверах приходят к нему. Конкретных метрик по экономии времени и по доле сгенерированного кода в доступных материалах нет. Похожий по духу соло-проект на Rust, AI-ориентированная ОС с панелью управления, разобран в отдельном материале.
Кому подходит такой стек и где результаты пока не подтверждены
Стек имеет смысл в трёх случаях. Нужен нативный движок распознавания речи с контролем над вычислениями, а готовые обёртки не устраивают по стеку или набору моделей. Есть задача собрать кроссплатформенный десктоп на Rust и готовность вести собственный UI-слой. Важна автономность поставки, включая подписанные обновления без своего сервера.
Обратная сторона тоже конкретна. wavo работает через wgpu, и производительность зависит от драйверов, а на AMD Radeon замеров нет. Числа на M5 и RTX 4060 получены одним человеком на его железе без независимой проверки. Собственный FFT и nimbo добавляют две поверхности для багов, которые никто, кроме автора, не чинит. Часть тезисов о GGUF и оптимизациях в доступном описании дана без цифр, то есть остаётся качественной.
Если задача - просто диктовать текст, разумнее взять готовое: Handy, sherpa-onnx или обёртку над Whisper. Если нужен движок под свои модели, свой интерфейс и своя упаковка, кейс показывает, что такой проект реально собрать за месяц с ИИ-агентами. Сколько стоит поддерживать его на второй год, кейс не показывает. Полные таблицы замеров и детали реализации автор приводит в оригинальной статье.