Manga Translator Tool - открытое десктопное приложение для чтения и перевода манги с японского на локальной машине. В одном окне собраны ридер манги, OCR японского текста, наложение переводов и компаньон-LLM, которому можно задать вопрос по странице.
Логика близка к просмотру аниме с субтитрами: оригинальный японский текст остаётся видимым, перевод показывается рядом в текстовых боксах. Страницы не нужно отправлять в облако, обработка идёт локально. В описании проекта автор отдельно подчёркивает эту идею.
Пайплайн простой: страница попадает в OCR, распознанный текст уходит в модель перевода, результат появляется в боксах поверх изображения. Дальше можно открыть компаньон-LLM и разобрать формулировку, отсылку или вариант локализации.
Что такое Manga Translator Tool и как он устроен
Это не облачный сервис с подпиской и не расширение для браузера. Приложение ставится на компьютер и работает с локальными моделями. Автор называет его open-source desktop app для чтения и перевода манги.
Ридер открывает страницы, OCR вытаскивает японский текст, модель перевода строит русский вариант, а слой наложения показывает его поверх картинки. Компаньон-LLM подключается, когда нужно не просто прочитать реплику, а понять, почему она сформулирована именно так.
Из каких компонентов состоит пайплайн
Внутри две модели и один рантайм. Конкретика важна, потому что от неё зависят требования к памяти и качество распознавания.
- OCR:
ebinan92/Qwen3.5-ocr-jp-2b, файнтюн Qwen 3.5 для японского OCR. Приложение берёт GGUF-конвертации изnakanishi08/Qwen3.5-ocr-jp-2b-GGUF. - Перевод и чат: Gemma 4 E2B в варианте
HauhauCS/Gemma-4-E2B-Uncensored-HauhauCS-Aggressive. - Инференс: llama.cpp с поддержкой CPU и GPU.
GGUF здесь не случайность. Это формат, который читают llama.cpp, Ollama, LM Studio и KoboldCpp, и он почти всегда подходит для локального инференса. В материале по Gemma 4 GGUF его называют основным вариантом для локального запуска. Внутри Manga Translator Tool нас интересует llama.cpp: как он запускает модели на CPU, видно по llama-cli и llama-server, а кванты Q4_0, Q4_K_M, Q5_K_M и Q8_0 отличаются по размеру и качеству.
Чем это не является
Сразу границы. В приложении нет инпейнтинга: японский текст не стирается, его сохранение входит в задуманный опыт чтения. Боксы перевода не смешиваются с artwork, настройки шрифтов пока нет, полиграфической вёрстки тоже нет. Это инструмент для чтения и изучения манги, а не для публикационной локализации. Для аккуратной вёрстки автор советует другие инструменты. Описание прямо это фиксирует.
Как запустить локальный перевод манги: установка и модели
Приложение само управляет установкой и загрузкой моделей. На Windows исполняемый файл управляет загрузками, отдельно ставить каждый компонент не нужно. В описании сборок v1.00 указаны три платформы, и статус у них разный.
| Платформа | Статус v1.00 | Что это значит на практике |
|---|---|---|
| Windows 10/11 x64 | Основная сборка | Самый простой путь: запустить исполняемый файл и дать приложению скачать модели. |
| Linux x86_64 | Экспериментальная сборка | Запуск возможен, но стоит закладывать время на разбор зависимостей и ошибок. |
| macOS | Экспериментальный исходный пакет | Готового «поставил и поехал» нет. Нужна сборка из исходников и готовность к отладке. |
Если у вас macOS и нет желания собирать проект из исходников, это аргумент подождать. Для Linux экспериментальный статус тоже означает, что первый запуск может занять вечер. На Windows путь короче: приложение управляет загрузкой моделей изнутри.
Какие модели скачиваются и как выбрать квантование
Скачиваются две модели. OCR-модель 2B-класса отвечает за японский текст, Gemma 4 E2B - за перевод и чат. Для OCR важна специализация: Qwen3.5-ocr-jp-2b обучен на японском OCR, а не на общем распознавании текста. Для перевода используется конкретный вариант Gemma 4 E2B с пометкой Uncensored-Aggressive; в описании проекта указан именно он.
Квантование решает, сколько памяти займёт модель и насколько просядет качество. Q4_K_M считается вариантом по умолчанию для большинства: он теряет примерно 5-7% качества относительно полной модели, а файл занимает около четверти от её размера. Ниже 4 бит, то есть Q3_K и Q2_K, качество резко деградирует на задачах с интенсивным рассуждением. Разбор квантов Gemma 4 GGUF советует: если Q4_K_M не помещается, брать меньший вариант модели в Q4, а не больший в Q3.
У Gemma 4 E2B есть лестница из девяти GGUF-файлов разного сжатия, и её можно прогнать через llama.cpp. Тест квантования на 250 математических вопросах дал такие цифры: BF16 - 229 правильных ответов, Q5_K_M - 231 при 39,0% байтов и скорости декодирования в 1,97 раза выше BF16. Q4_0 потерял 15 вопросов и приобрёл 8, в сумме 222 против 229. Это тест на Tesla T4 и на математике, не на переводе манги. Цифры полезны как ориентир по деградации, но не обещают такое же качество перевода.
Хватит ли железа: CPU, GPU и VRAM
llama.cpp умеет считать на CPU и на GPU. На CPU запуск возможен, но OCR страницы и генерация перевода конкурируют за ресурсы: пока одна модель считает, вторая ждёт. На GPU быстрее, но VRAM надо считать на две модели, а не на одну. OCR-модель 2B-класса и Gemma 4 E2B - небольшие модели, поэтому ориентир по суммарной памяти под обе реалистичнее, чем расчёт только по одной.
Квантование меняет аппетит к памяти. Чем ниже битность, тем меньше файл и тем выше риск просадки качества. Длинный контекст тоже стоит памяти: в материалах по Gemma 4 приводится ориентир, что 32K контекста на E4B требует примерно на 2 ГБ больше, чем 8K. Это ещё один аргумент не открывать максимальный контекст без необходимости.
Отдельно про Ollama, чтобы не путать с Manga Translator Tool. Если запускать Gemma 4 E-series через Ollama, планировщик завышает оценку памяти в 3-4 раза относительно фактического использования VRAM и вытесняет модели, которые могли бы поместиться рядом. В отчёте по gemma4:e4b llama-server разместил в CUDA0 около 2,8 ГиБ весов, а около 5,9 ГиБ остались в CPU-mapped памяти. Это известная проблема Ollama, а не характеристика приложения из этой статьи. Вывод общий: автоматическим оценкам памяти стоит не доверять без проверки.
Готовых замеров скорости для этой связки в описании проекта нет. Поэтому я не привожу токены в секунду: они зависят от кванта, драйвера, длины контекста и того, попали ли слои на GPU. Начните с одной главы, посмотрите на загрузку CPU, GPU и памяти, а уже потом запускайте том целиком.
Ридер, поиск и звукоподражания: что даёт инструмент на практике
Практическая польза начинается с чтения. Вы открываете главу, получаете перевод в боксах и переключаетесь между оригиналом и переведённым видом. Оригинальный японский текст остаётся на странице, поэтому можно сравнить формулировку и проверить, как перевод соотносится с исходником.
Поиск по извлечённому тексту помогает найти реплику и вернуться к нужному моменту в томе. Это удобно, когда помнишь фразу, но не помнишь главу. Пайплайн OCR и перевода распознаёт японские звукоподражания, которые часто остаются без перевода. Для манги это заметная деталь: ономатопея передаёт действие и настроение, а не только текст в бабле.
Компаньон-LLM: вопросы по странице
Компаньон-LLM - это чат внутри ридера, но с контекстом страницы. Можно выбрать, что включать в вопрос: японский текст, перевод, изображение или все три сразу. Дальше можно спрашивать про формулировки, культурные отсылки и возможные варианты локализации.
Примеры вопросов: «почему здесь такая частица», «что означает эта отсылка», «как передать эту игру слов по-русски». Ответы стоит проверять по оригиналу, особенно в шутках и культурных отсылках. Это скорее режим изучения языка, чем замена переводчику.
Сохранение переводов как метаданных
Переводы сохраняются как метаданные изображения. Их можно не вжигать в artwork и переключать вид между оригиналом и переводом. Для архивов и повторного чтения это удобнее, чем перезаписанные изображения: исходные сканы остаются целыми, а перевод хранится отдельно.
Сохранение японского текста - принципиальная позиция автора. Он не пытается сделать вид, что страница изначально была на русском. Такой подход помогает чтению и изучению, но не подходит для публикации готовой главы.
Ограничения, о которых говорит сам автор
Список короткий и честный.
- Нет инпейнтинга. Японский текст остаётся на месте, его не затирают и не заменяют картинкой.
- Боксы перевода не смешиваются с artwork. Они выглядят как отдельный слой, а не часть рисунка.
- Настройки шрифтов нет. Подобрать гарнитуру, размер и межстрочный интервал под бабл не получится.
- Полиграфической вёрстки нет. Инструмент не готовит страницы к печати или публикации.
Что это значит на практике. Если нужен аккуратный тайпсеттинг, придётся экспортировать распознанный текст и работать в другом редакторе. Если нужен перевод с сохранением стиля надписей, шрифтов и баблов, этот инструмент не закрывает задачу. Для издательского пайплайна он тоже не подходит. Автор говорит об этом прямо: цель - чтение и изучение манги, а не публикационная локализация.
Кому подойдёт Manga Translator Tool, а кому нет
Подойдёт тем, кто читает мангу на японском и учит язык. Оригинал остаётся перед глазами, перевод помогает идти по сюжету, а компаньон-LLM объясняет формулировки. Ещё одна группа - те, кто хочет офлайн-перевод без отправки страниц в облако. Третья - пользователи локальных LLM, которым нужен готовый пример связки OCR и LLM на GGUF.
Не подойдёт командам локализации с публикационным пайплайном. Тем, кто ждёт замену коммерческим переводчикам с инпейнтингом, тоже стоит пройти мимо. Пользователям macOS без желания собирать из исходников лучше подождать или проверить экспериментальный пакет на отдельной машине.
Чек-лист самопроверки:
- Готовы ли вы читать с переключением на оригинал, а не ограничиваться русским текстом?
- Есть ли на машине место под две модели и запас памяти на контекст?
- Нужна ли вам вёрстка или достаточно чтения и разбора?
- Какая у вас ОС: Windows проще, Linux и macOS требуют терпения?
Место в стеке локальных LLM и альтернативы
Ollama, LM Studio и KoboldCpp - это раннеры для GGUF-моделей. Manga Translator Tool - прикладной слой поверх llama.cpp с OCR, ридером и наложением переводов. В описании проекта речь идёт о llama.cpp; интеграций с Ollama или LM Studio там не заявлено, поэтому не стоит рассчитывать на готовый коннектор.
Если задача разовая, пайплайн можно собрать самому: OCR-модель, LLM и скрипт наложения. Готовое приложение экономит время на склейке, но не даёт гибкости вёрстки. Для экспериментов с моделями это нормальный компромисс.
Для перевода текста вообще есть Index-Translate от BiliBili: 150 языков, документы, видео и дубляж. Это другой класс задач. Manga Translator Tool заточен под страницы манги, японский OCR и чтение с оригиналом.
Если нужен запуск локальных моделей на Windows без терминала, посмотрите Ollivo. Это не замена ридеру манги, но полезный пример того, как локальный AI упаковывают в обычное приложение. Для сравнения uncensored-вариантов GGUF есть подборка LLMFan46; к Manga Translator Tool она относится только через модель Gemma 4 E2B и формат GGUF.
Итог: стоит ли ставить
Manga Translator Tool - нишевый, но честный инструмент для чтения и изучения манги локально. Сильные стороны: офлайн-работа, сохранение оригинала, поиск по извлечённому тексту, распознавание звукоподражаний и компаньон-LLM с контекстом страницы. Слабые: нет инпейнтинга и настройки шрифтов, нет полиграфической вёрстки, Linux и macOS в экспериментальном статусе.
Если вам нужно читать мангу на японском и разбирать текст, начните с одной главы на своей ОС. Проверьте, видит ли llama.cpp GPU, хватает ли памяти под OCR и Gemma 4 E2B, как ведёт себя компаньон-LLM на ваших вопросах. Если нужна публикационная локализация, этот инструмент не заменит редактор вёрстки.