Пошаговая настройка Gemma 4 для реального перевода японских игр на английский через LunaTranslator

Кошмар машинного перевода в играх, который заставляет плакать

Откройте любую японскую визуальную новеллу, запустите Google Translate или DeepL через скриншот - и получите унылую кашу. Почему? Потому что эти переводчики не понимают контекста. Игровой диалог, сленг, культурные отсылки, игра слов - все это превращается в безликий набор фраз. «Сенпай, пожалуйста!» становится «Старший коллега, прошу вас!». Убийственно.

Ручной перевод - вариант для фанатов, но он медленный. Платные сервисы вроде GPT-5 - дорогие и требуют интернета. Выход? Локальная модель, которая понимает контекст игры и переводит в реальном времени. На 03.04.2026 лучший кандидат для этой задачи - Gemma 4 от Google. Не Gemma 2, не Gemma 3 - именно четвертая версия, которая наконец-то получила достойный контекст и понимание японских лингвистических нюансов.

Почему именно Gemma 4, а не какой-то Qwen или Llama?

Здесь все упирается в три фактора: размер, качество перевода с японского и эффективность. Gemma 4 (особенно в версии 9B) - это золотая середина. Она достаточно мала, чтобы работать на видеокарте с 12-16 GB VRAM после квантования, и достаточно умна, чтобы переводить диалоги, а не просто слова.

Google тренировал Gemma 4 на огромных массивах многоязычных данных, включая диалоги из игр и аниме (косвенно, через субтитры). У модели появилось то, чего не хватало предшественникам - способность улавливать тон и стиль персонажа. Вспомните статью про перевод манги - там та же проблема, но для статичного текста. В играх все сложнее: текст динамический, и контекст меняется каждую секунду.

Qwen 3.5 27B, о которой мы писали для китайских субтитров, слишком прожорлива. Llama 3.2 тоже хороша, но Gemma 4 оптимизирована Google именно для задач перевода - это ее основная специализация. Плюс, интеграция с инструментами вроде Unsloth для тонкой настройки отработана до блеска.

Что нужно перед началом: железо и софт

Давайте без иллюзий. Если у вас карта с 8 GB VRAM - можете даже не пытаться. Минимум для комфортной работы - 12 GB. Идеально - 16-24 GB. Мы будем использовать квантование Q5_K_M - это баланс между качеством и размером, актуальный стандарт на 2026 год.

• Видеокарта: NVIDIA с 12+ GB VRAM (RTX 3060 12GB, RTX 4070, 4080, 4090). AMD тоже подойдет, но готовьтесь к танцам с бубном через ROCm.
• Память: 32 GB RAM минимум. Модель будет частично загружаться в оперативку.
• Диск: 50 GB свободного места. Модели весят прилично.
• ОС: Windows 10/11 или Linux. Гайд написан для Windows, но на Linux все аналогично.

1 Устанавливаем text-generation-webui - наш фундамент

Без этого интерфейса - никуда. Это swiss army knife для локальных LLM. Скачиваем последнюю версию с GitHub (на 03.04.2026 это ветка v2.4 или новее).

git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui

Запускаем установщик для Windows (start_windows.bat) или для Linux (./start_linux.sh). Выбираем вариант установки со всеми зависимостями. Ждем. Может занять 10-30 минут в зависимости от интернета.

2 Качаем и квантуем Gemma 4

Здесь есть два пути: скачать готовую квантованную модель с Hugging Face или сделать квантование самому. Я рекомендую второй - так вы получите именно тот формат, который нужен вашему железу.

Открываем интерфейс text-generation-webui (запускаем start_windows.bat и выбираем «Launch»). Идем в раздел «Model».

1. В поле «Download model or LoRA» вводим: google/gemma-4-9b-it (версия 9B инструктивная - она лучше всего для перевода).
2. Жмем Download. Ждем скачивания 18-20 GB оригинальной модели.
3. После загрузки идем во вкладку «Model» -> «Transformers».
4. Выбираем загруженную модель gemma-4-9b-it.
5. В «Loader» выбираем ExLlamaV2 (это самый быстрый вариант для NVIDIA).
6. В «quantization» выбираем Q5_K_M.
7. Жмем «Transform» и ждем. Квантование займет от 20 минут до часа. На выходе получим модель размером около 6-7 GB.

Теперь модель готова. Можно ее протестировать в интерфейсе, задав промпт на японском. Но нам нужна интеграция.

3 Настраиваем LunaTranslator - мост между игрой и моделью

LunaTranslator - это магия. Она перехватывает текст из игры (через OCR или прямо из памяти) и отправляет его в LLM. Скачиваем последнюю версию с GitHub.

После установки запускаем. В настройках идем в «Translation» -> «Select translator» -> «Custom GPT».

Здесь важный момент: LunaTranslator по умолчанию настроен на OpenAI API. Но мы подменим его на наш локальный сервер.

{
  "API URL": "http://127.0.0.1:5000/v1",
  "API Key": "sk-no-key-required",
  "Model": "gemma-4-9b-it-Q5_K_M",
  "Prompt": "Ты профессиональный переводчик с японского на английский для видеоигр. Переведи текст, сохрани стиль персонажа, игру слов и эмоции. Переводи только на английский, не добавляй пояснений. Текст: {text}"
}

Это минимальный промпт. На практике его нужно дорабатывать. Например, для визуальных новелл добавьте: «Игровой жанр: визуальная новелла в стиле аниме. Переводи диалоги естественно, как носитель английского».

В text-generation-webui нужно включить OpenAI-совместимый API. В флагах запуска добавить --api. Или в интерфейсе во вкладке «Session» -> «Enable API».

4 Запускаем связку и тестируем на игре

Порядок запуска критичен:

1. Запускаем text-generation-webui с API: python server.py --api --model gemma-4-9b-it-Q5_K_M --loader exllamav2
2. Ждем загрузки модели. В консоли увидите «Model loaded» и IP-адрес.
3. Запускаем LunaTranslator.
4. В LunaTranslator выбираем метод захвата текста. Для большинства игр - «Textractor» (если игра на движке, который поддерживается) или «OCR». Для последнего нужен будет патчинг конкретного движка.
5. Запускаем игру. Наводим курсор на текст, жмем хоткей для перевода (по умолчанию Ctrl+F2).

Если все сделано правильно, через 1-3 секунды появится перевод. Первые запросы могут быть медленными - модель прогревается.

Под капотом: почему все может сломаться и как это чинить

Типичные ошибки, которые заставят вас вырвать волосы:

Производительность: на RTX 4070 (12 GB) скорость перевода - 15-25 токенов в секунду. Этого хватает для комфортной игры с небольшими паузами. Хотите быстрее? Придется апгрейдить железо или использовать модель меньше (но качество упадет).

А что, если нужно не только текст, но и звук?

Gemma 4 умеет работать с аудио? Нет, это текстовая модель. Но если игра имеет голосовые реплики, можно связать ее с отдельной моделью для перевода речи. Это уже высший пилотаж. Если интересно - посмотрите наш эксперимент с обработкой звука через Gemma и живым переводом в наушниках.

Но для 99% визуальных новелл достаточно текста. Озвучку японских сейю оставьте как есть - это часть атмосферы.

Финальный штрих: куда двигаться дальше

Система работает, но это база. Можно улучшать:

• Контекстное окно: Настройте LunaTranslator, чтобы она отправляла не одну строку, а предыдущие 5-10 реплик. Gemma 4 будет учитывать историю диалога.
• Тонкая настройка (Fine-tuning): Возьмите 100-200 строк перевода из любимой игры и дообучите модель через Unsloth. Это даст максимальное качество, но требует времени.
• Кэширование: Настройте кэш переводов, чтобы повторяющиеся фразы (например, «Далее») не отправлялись в модель каждый раз.

Самый неочевидный совет: поиграйте с температурой (temperature) в настройках модели. Для перевода идеально значение 0.3-0.5. Слишком низкое (0.1) сделает перевод сухим, слишком высокое (0.8) - творческим, но с ошибками.

И последнее: не ждите perfection. Локальный переводчик на Gemma 4 - это не Google Translate 2026 года. Это инструмент, который понимает контекст и сохраняет дух оригинала. Иногда он будет ошибаться. Иногда будет выдавать гениальные варианты, которые заставят вас улыбнуться. Это живая система, а не статичный алгоритм. И в этом ее прелесть.

Подписаться на канал