Локальный перевод с английского на арабский: какие LLM работают лучше Google и как их запустить на RX 6800 XT

Почему Google Translate не подходит для арабских субтитров (и что делать)

Представьте ситуацию: у вас есть сериал на английском, который нужно перевести для арабской аудитории. Вы открываете Google Translate, вставляете текст — и получаете результат, от которого у носителя языка начнут дергаться глаза. Проблема не в том, что Google плох. Проблема в том, что арабский — это не просто другой язык. Это другой мир.

Вот где локальные LLM выигрывают. Вы можете настроить модель на конкретный диалект, добавить контекст ("переводи как для молодежи в Дубае"), и самое главное — все данные остаются у вас. Никаких утечек в облако, никаких лимитов API, никаких цен за символ.

Топ-5 моделей 2026 года для английско-арабского перевода

Я протестировал десятки моделей на реальных субтитрах — от диалогов "Игры престолов" до технических документаций. Вот что работает в феврале 2026:

Квантование: как впихнуть 72B модель в 16 ГБ видеопамяти

Вот главный секрет работы с AMD картами. У вас нет 80 ГБ как у топовых NVIDIA, зато есть отличная цена за производительность. Но чтобы запустить большие модели, их нужно квантовать.

Квантование — это сжатие весов модели с 16 бит (FP16) до 4-8 бит. Потеря качества? Минимальная. Выигрыш в памяти? Колоссальный.

1 Установка llama.cpp с поддержкой Vulkan

Для AMD карт забудьте про CUDA. Нам нужен Vulkan бэкенд. Если вы еще не читали мой гайд про оптимизацию llama.cpp под AMD, самое время это сделать.

# Клонируем репозиторий с поддержкой Vulkan
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
mkdir build && cd build

# Собираем с Vulkan (обязательно для AMD)
cmake .. -DLLAMA_VULKAN=ON -DCMAKE_BUILD_TYPE=Release
make -j8

2 Квантование Qwen2.5-72B до Q4_K_M

Q4_K_M — золотая середина. Качество почти как у оригинальной модели, но занимает в 4 раза меньше памяти.

# Конвертируем оригинальную модель в формат GGUF
python3 ../convert.py \
  --outfile qwen2.5-72b.gguf \
  --outtype f16 \
  /path/to/original/qwen2.5-72b

# Квантуем до Q4_K_M
../build/bin/quantize \
  qwen2.5-72b.gguf \
  qwen2.5-72b-Q4_K_M.gguf \
  Q4_K_M

3 Запуск с оптимизацией под RX 6800 XT

16 ГБ VRAM на RX 6800 XT — это много, но для 72B модели даже квантованной нужно аккуратно распределять слои между GPU и CPU.

# Запускаем квантованную модель
./build/bin/main \
  -m ./models/qwen2.5-72b-Q4_K_M.gguf \
  -ngl 35 \
  -c 4096 \
  -b 512 \
  -t 8 \
  --temp 0.7 \
  --repeat_penalty 1.1 \
  -p "Translate this to Arabic (Egyptian dialect): \"Hello, how are you today?\""

Ключевые параметры:

• -ngl 35 — 35 слоев на GPU (экспериментируйте, пока не упираетесь в память)
• -t 8 — 8 потоков CPU (для Ryzen 7 5800X3D)
• --temp 0.7 — температура ниже = более предсказуемый перевод
• --repeat_penalty 1.1 — предотвращает зацикливание

Интеграция с Subtitle Edit: автоматизация перевода субтитров

Subtitle Edit — отличная программа, но ее встроенный переводчик слабоват. Хорошая новость: можно подключить локальную LLM через API.

1 Запускаем llama.cpp как сервер

./build/bin/server \
  -m ./models/qwen2.5-72b-Q4_K_M.gguf \
  -ngl 35 \
  -c 2048 \
  --host 0.0.0.0 \
  --port 8080 \
  --api-key "your_secret_key"

2 Настройка Subtitle Edit для работы с локальным API

В Subtitle Edit идем в Настройки -> Переводчик -> Добавить пользовательский переводчик.

Конфигурация:

• URL: http://localhost:8080/completion
• Метод: POST
• Заголовки: Content-Type: application/json
• Тело запроса: {"prompt": "Translate to Arabic (modern standard): {TEXT}", "temperature": 0.3, "n_predict": 512}
• Путь к результату: $.content

Промпты для качественного перевода: что писать в инструкции

Промпт — это разница между механическим переводом и человеческим. Вот что работает в 2026 году:

Ты профессиональный переводчик с английского на арабский (египетский диалект).
Твоя задача — переводить субтитры для сериала.

Правила:
1. Используй разговорный египетский арабский
2. Сохраняй эмоции оригинальной реплики
3. Учитывай контекст: [указать контекст, например "комедийный сериал о студентах"]
4. Адаптируй культурные отсылки (например, "Super Bowl" → "финал Лиги чемпионов")
5. Следи за длиной строки — не больше 42 символов для субтитров

Переведи на арабский:

Для разных жанров — разные промпты:

• Документальные фильмы: "Используй литературный арабский (fus'ha), сохраняй научную точность"
• Детские мультфильмы: "Используй простой язык, избегай сложных конструкций"
• Технические инструкции: "Будь максимально точным, сохраняй терминологию на английском в скобках"

Почему AMD RX 6800 XT — отличный выбор для перевода в 2026

NVIDIA фанаты будут спорить, но вот факты:

Да, NVIDIA быстрее благодаря CUDA оптимизациям. Но за эти 30% скорости вы платите почти в два раза больше. Для перевода субтитров 10 токенов в секунду против 16 — разница между 10 минутами и 6 минутами на серию. Не критично.

Ошибки, которые съедят ваше время (и как их избежать)

1. Неправильный выбор квантования

Q2_K для перевода — гарантия искажений. Q8 — пустая трата памяти. Q4_K_M или Q5_K_M — ваш выбор.

2. Игнорирование диалектов

"Переведи на арабский" без уточнения диалекта = перевод на литературный арабский, который никто не использует в разговорной речи. Всегда уточняйте!

3. Слишком высокая температура

Temperature 0.8 для перевода = креативность, которая ломает смысл. 0.3-0.5 — безопасный диапазон.

4. Отсутствие контекста

Слово "bank" может быть берегом реки или финансовым учреждением. Без контекста модель угадывает. Всегда добавляйте контекст в промпт.

Что ждет нас в 2027?

Специализированные модели для перевода уже на горизонте. Компании вроде DeepL (партнерская ссылка) работают над локальными версиями своих движков. Meta анонсировала Llama 4 с улучшенной мультиязычной поддержкой.

Мой прогноз: через год мы увидим модели размером 7B, которые по качеству перевода будут как сегодняшние 70B. Аппаратное ускорение для трансформеров на AMD станет лучше — Vulkan догонит CUDA по оптимизациям.

Пока что лучший стек для перевода субтитров с английского на арабский в 2026 году:

1. Qwen2.5-72B-Instruct квантованный до Q4_K_M
2. llama.cpp с Vulkan бэкендом
3. RX 6800 XT с 35 слоями на GPU
4. Subtitle Edit с кастомным API интеграцией
5. Промпт с указанием диалекта и контекста

Этот набор дает качество лучше Google Translate с полной приватностью. И обходится дешевле, чем годовая подписка на премиум-переводчик.