Mirai: как новый фреймворк от создателей Reface и Prisma ускоряет on-device AI на смартфонах

Привет, Cloud. Мы больше не нуждаемся в твоих услугах

Помните 2024 год? Каждое AI-приложение на телефоне тихо стучалось на удаленные сервера. Генерация фото? Отправляем в облако. Обработка видео? Ждем ответа из дата-центра. Это было нормально, пока не стало бесить. Задержки, зависимость от интернета, батарея, которая тает от постоянных сетевых запросов.

В 2026 году эта парадигма трещит по швам. Snapdragon 8 Gen 5 и Apple A19 Bionic - это уже не просто процессоры. Это полноценные AI-акселераторы с десятками TOPS вычислительной мощности. Проблема не в железе. Проблема в том, как заставить это железо работать на полную.

Именно здесь появляется Mirai. Не очередной SDK. Не обертка вокруг TensorFlow Lite. Фреймворк, который переписывает правила игры для on-device inference.

Кто эти люди и почему им можно верить?

Dima Shvets и Alexey Moiseenkov. Если эти имена ничего не говорят - вы либо не в теме mobile AI, либо очень удачно прятались последние пять лет. Reface - приложение для замены лиц, которое взорвало TikTok и заработало сотни миллионов. Prisma - тот самый фильтр, который превращал фото в картины еще до того, как нейросети вошли в моду.

В феврале 2026 они закрыли seed раунд на $10 млн. Инвесторы - не венчурные фонды, ищущие хайп, а технические ангелы, которые понимают разницу между маркетинговым AI и реальной инженерией.

Что делает Mirai особенным? Не просто очередной компилятор

Если вы думаете, что это просто еще один инструмент для конвертации PyTorch моделей в мобильный формат, вы ошибаетесь. Погружаемся в детали.

Динамическая адаптация к железу

Вот типичная проблема: вы оптимизировали модель для Snapdragon 8 Gen 4. Она летает на флагманах. На среднебюджетном телефоне с Dimensity 8300 - тормозит. На старом iPhone 14 - вообще не запускается.

Mirai решает это радикально. Фреймворк анализирует конкретное устройство в реальном времени:

• Доступные ядра CPU (большие/маленькие в ARM big.LITTLE)
• Наличие и производительность NPU (Qualcomm Hexagon, Apple Neural Engine)
• Объем и скорость оперативной памяти
• Текущую загрузку системы и температуру процессора

На основе этих данных он динамически перераспределяет слои нейросети между разными вычислительными блоками. Тяжелые матричные умножения - на NPU. Легкие операции активации - на эффективные маленькие ядра. Параллельные вычисления - на большие ядра с поддержкой SIMD.

Результат? Одна и та же модель работает оптимально на iPhone 16 Pro Max и на бюджетном Android за $300. Без необходимости создавать десятки разных версий.

Кеширование вычислений на стероидах

Здесь начинается магия. Представьте: пользователь применяет стиль Prisma к фото. Обычный фреймворк каждый раз заново прогоняет всю нейросеть. Mirai поступает умнее.

Он анализирует граф вычислений и находит:

• Повторяющиеся паттерны в данных (например, одинаковые текстуры неба в разных фото)
• Частичные результаты, которые можно переиспользовать между кадрами видео
• Промежуточные активации, которые меняются незначительно

Эти данные кешируются не в оперативной памяти (которая ограничена), а... в специальном буфере на самом NPU. Да, именно так. Qualcomm Hexagon и Apple Neural Engine имеют собственные высокоскоростные буферы памяти с доступом в сотни гигабайт в секунду.

При обработке видео это дает ускорение до 3-5 раз на втором и последующих кадрах. Пользователь видит плавный 60 FPS вместо рывков на 20 FPS.

Гибридный quantization без потерь качества

Все знают про quantization (сокращение разрядности чисел). FP32 → FP16 → INT8 → INT4. Чем меньше бит, тем быстрее вычисления и меньше память. И тем хуже качество.

Mirai использует адаптивный подход. Критические слои (например, attention механизмы в трансформерах) остаются в FP16. Менее чувствительные слои (обычные полносвязные слои) переводятся в INT8. А совсем простые операции (активации) - в INT4.

С чем сравнивать? Альтернативы и их больные места

Рынок on-device AI инструментов не пустует. Но у каждого конкурента есть свои грабли.

Главное отличие Mirai - он создавался именно для мобильных устройств с их ограничениями. Не для серверов, не для десктопов, не для embedded систем общего назначения. Эта специализация чувствуется в каждой детали.

Кому нужен Mirai? Три типа разработчиков

1. Создатели AI-приложений для массового рынка

Вы делаете следующее Reface или Prisma. У вас миллионы пользователей на устройствах от флагманов до бюджетников. Каждый процент производительности - это сохраненная батарея, меньше отток пользователей, больше retention.

Mirai дает реальное преимущество: ваше приложение будет работать плавнее на слабых устройствах. Это не абстрактная метрика. Это разница между "приложение лагает, удаляю" и "работает идеально, рекомендую друзьям".

2. Разработчики встраиваемых AI функций

Камера с AI-обработкой в реальном времени. Голосовой помощник, работающий офлайн. AR-фильтры, которые не тормозят. Все это требует on-device inference.

Особенно актуально в свете последних анонсов от Apple и Google. Новые AI-фичи для Pixel и Android все чаще требуют локальной обработки из-за проблем с приватностью и задержками. Mirai позволяет реализовать их без убийства батареи.

3. Энтузиасты приватного AI

Растет тренд на полностью локальные AI-ассистенты. Люди не хотят, чтобы их разговоры уходили в облако. Ваш смартфон теперь AI-сервер - эта статья показала, насколько востребованы такие решения.

Но локальные модели типа Qwen3 или Llama 3.2 требуют серьезных ресурсов. Mirai позволяет запускать их на смартфонах с приемлемой скоростью. Не 20 токенов в секунду, а 5-7. Для чат-бота этого достаточно.

Где уже используется? Реальные кейсы

Хотя фреймворк официально запустился только в начале 2026, несколько компаний уже тестируют его в боевых условиях:

• Мобильные видеоредакторы: Применение нейростилей к видео в 4K 60 FPS в реальном времени. Раньше это требовало облачной обработки или сильного просаживания FPS. С Mirai - плавная работа даже на Snapdragon 7 Gen 3.
• AR-приложения: Детекция объектов и их сегментация для интерактивных фильтров. Особенно важно для очков Ray-Ban и подобных устройств, где задержка критична.
• Фоторедакторы: Умное ретуширование и enhancement фото без отправки в облако. Пользователи ценят приватность, особенно после скандалов с утечками данных.
• Голосовые помощники: Локальное распознавание intent'ов и генерация ответов. Позволяет работать в офлайн-режиме в самолетах или зонах без покрытия.

Под капотом: как это технически работает

Если отбросить маркетинг, ядро Mirai - это три слоя оптимизации:

Слой 1: Графовый оптимизатор

Принимает модель из PyTorch, TensorFlow или ONNX. Анализирует граф вычислений и выполняет:

• Fusion операций: объединяет последовательные слои Conv + BatchNorm + Activation в одну операцию
• Constant folding: вычисляет статические части графа на этапе компиляции
• Dead code elimination: удаляет неиспользуемые ветки вычислений
• Оптимизацию под конкретную архитектуру: использует инструкции ARM NEON, Apple AMX, Qualcomm HVX

Слой 2: Менеджер ресурсов

Самая умная часть. В реальном времени мониторит:

• Температуру SOC (системы на кристалле)
• Уровень заряда батареи
• Фоновую активность других приложений
• Доступность оперативной памяти

На основе этих данных динамически регулирует:

• Тактовую частоту CPU/GPU/NPU (не напрямую, через hints системе)
• Размер батча для inference
• Уровень quantization (можно временно понизить качество при перегреве)
• Распределение вычислений между ядрами

Слой 3: Кеширующий движок

Создает многоуровневый кеш:

• L1: Внутренние буферы NPU (самый быстрый, но маленький)
• L2: Выделенная GPU память (быстро, средний размер)
• L3: Оперативная память (медленнее, но много)
• L4: Flash-память (очень медленно, используется как last resort)

Алгоритмы предсказания загружают в быстрые уровни кеша данные, которые вероятно понадобятся в следующих кадрах.

Проблемы и ограничения: что не так с Mirai?

Идеальных технологий не существует. У Mirai тоже есть свои грабли:

Также есть вопрос стоимости. Пока что Mirai предлагает free tier для проектов с до 100k активных пользователей. Дальше - подписка от $500/месяц. Для стартапа это может быть существенно.

Что дальше? Будущее on-device AI

Mirai появился в идеальный момент. Аппаратные ускорители в смартфонах становятся мощнее с каждым поколением. Но программный стек отстает.

Смотрите на тренды:

• Qualcomm анонсировала Snapdragon 8 Gen 5 с 100 TOPS AI производительности
• Apple в A19 Bionic уделяет Neural Engine больше площади кристалла, чем CPU
• MediaTek догоняет с APU 4.0 в Dimensity 9400
• Даже Samsung в Exynos 2500 делает упор на NPU

Но железо - только половина уравнения. Без грамотного ПО эти тераоперации в секунду простаивают. Или, что хуже, сжигают батарею впустую.

Mirai - это попытка решить именно проблему ПО. Не создавать еще один низкоуровневый API, а дать инструмент, который автоматически выжимает максимум из любого мобильного железа.

Что будет через год? Скорее всего, мы увидим:

1. Интеграцию Mirai в крупные мобильные движки (Unity, Unreal Engine)
2. Поддержку новых типов моделей (диффузионные для генерации изображений, мультимодальные типа GPT-4V)
3. Оптимизацию для носимых устройств и AR-очков (где энергоэффективность критичнее всего)

Уже сейчас есть проекты, которые пытаются решать схожие задачи. AI Doomsday Toolbox экспериментирует с распределенным inference на смартфонах. Sarvam AI оптимизирует модели для edge-устройств. Но Mirai идет дальше - это не просто компилятор моделей, а полноценная среда выполнения с интеллектуальным управлением ресурсами.

Стоит ли пробовать прямо сейчас?

Зависит от того, что вы делаете.

Да, если:

• Вы разрабатываете AI-приложение для массовой аудитории
• Производительность на слабых устройствах критически важна
• Готовы потратить время на изучение новой технологии
• Работаете с компьютерным зрением или обработкой медиа

Нет, если:

• У вас простой проект с базовым ML
• Вы только начинаете и TensorFlow Lite более чем достаточно
• Целевая аудитория - только владельцы последних флагманов
• Нет ресурсов на поддержку дополнительной зависимости

Лично я бы порекомендовал начать с пилотного проекта. Возьмите одну функцию вашего приложения (например, стилизацию фото) и реализуйте ее через Mirai. Сравните производительность, потребление памяти, нагрев устройства с вашим текущим решением.

Цифры обычно говорят сами за себя. Особенно когда речь идет о 2-3x ускорении на том же самом железе.

Последний совет: не гонитесь за хайпом

On-device AI - это не серебряная пуля. Есть задачи, которые все равно лучше решать в облаке. Обучение моделей. Обработка огромных датасетов. Сложные цепочки рассуждений в LLM.

Но для инференса на мобильных устройствах - это будущее. Приватность, скорость, работа офлайн, экономия трафика. Пользователи начинают ценить эти вещи.

Mirai не сделает ваше приложение волшебным. Но он может сделать его быстрее, эффективнее и доступнее для большего количества людей. А в мобильном маркете, где конкуренция измеряется долями секунды и процентами батареи, это именно то преимущество, которое отделяет успешный продукт от забытого.

Попробуйте. Возможно, через год вы будете смеяться над тем, как много ресурсов тратили впустую.