Бесплатная тонкая настройка LFM2.5-1.2B с Unsloth и Hugging Face Jobs: пошаговый гайд

Почему тонкая настройка LLM до сих пор кажется роскошью

Вы скачали очередную open-source модель, запустили её локально, и она работает... почти как надо. Почти. Вам хочется, чтобы она лучше понимала специфический контекст вашей работы, писала код в вашем стиле, или просто перестала говорить шаблонные фразы. Вы гуглите "fine-tuning", видите цены на облачные GPU и закрываете вкладку. Обучение модели размером в миллиард параметров стоит как хороший ужин в ресторане. Каждый эпох.

Ситуация на февраль 2026 года парадоксальна: инструменты для тонкой настройки стали доступнее, но стоимость вычислений остаётся барьером. Особенно для моделей размером 1-3 миллиарда параметров, которые идеально балансируют между качеством и требованиями к железу.

Что такое LFM2.5-1.2B и зачем его настраивать

LFM2.5-1.2B-Instruct от LiquidAI — это не очередной форк Llama. Архитектура полностью оригинальная, с фокусом на эффективность и качество инструкций при скромных 1.2 миллиардах параметров. Модель выпущена в конце 2025 года и к февралю 2026 уже показала себя как один из лучших вариантов для задач, где важна скорость ответа и экономия ресурсов.

Проблема стандартных версий в том, что они обучены на общих данных. Хотите, чтобы модель понимала медицинские термины, юридические документы или специфический жаргон вашей компании? Без тонкой настройки не обойтись.

Вот типичный сценарий, который знаком каждому, кто пытался дообучить свою LLM: вы собираете датасет из 1000 примеров, арендуете GPU за 4 доллара в час, ждёте 8 часов... и обнаруживаете, что модель переобучилась или вообще не улучшилась. Деньги и время потрачены впустую.

Unsloth: не просто ускоритель, а спасение от переобучения

Большинство статей про Unsloth говорят только об ускорении. "В 2 раза быстрее! На 70% меньше памяти!" Это важно, но не главное. Настоящая магия Unsloth в том, как он меняет процесс обучения на фундаментальном уровне.

Традиционный fine-tuning часто приводит к катастрофическому забыванию: модель учится новому, но забывает старые знания. Unsloth использует методы вроде LoRA (Low-Rank Adaptation), которые добавляют к модели не миллионы новых параметров, а лишь тонкий слой адаптации. Представьте, что вместо перестройки всего дома вы просто меняете обои.

Но есть нюанс: даже с Unsloth вам нужно где-то запускать обучение. Ваш ноутбук с RTX 4060? Возможно, но 8 ГБ VRAM для LFM2.5-1.2B с полным контекстом в 4096 токенов — это на грани. Вы будете постоянно мониторить память, уменьшать batch size, и в итоге обучение растянется на сутки.

Вот здесь в игру вступает Hugging Face Jobs с их бесплатными кредитами.

Hugging Face Jobs: как получить бесплатные вычисления в 2026

Миф номер один: "Бесплатные кредиты HF закончились в 2024". Неправда. На февраль 2026 система всё ещё работает, просто изменились условия. Раньше давали фиксированную сумму, теперь — ежемесячную квоту, которой хватает на несколько часов работы T4 или даже A10G.

Миф номер два: "Это только для академических исследований". На самом деле, ограничений по использованию почти нет. Главное — не майнить крипту и не запускать коммерческие продакшен-сервисы.

Перед тем как перейти к шагам, давайте разберём экономику:

Видите последнюю строчку? Ноль долларов. Не "почти бесплатно", а абсолютно бесплатно. При этом скорость выше, чем на большинстве домашних GPU.

Пошаговый план: от нуля до настроенной модели

1 Подготовка: установка HF CLI и создание датасета

Первая ошибка, которую делают 90% новичков: пытаются подготовить датасет в процессе. Потом оказывается, что JSON кривой, токены не считаны, и вы тратите платные минуты GPU на отладку.

Начните локально:

# Установка Hugging Face CLI (актуально на февраль 2026)
pip install -U "huggingface_hub[cli]"

# Авторизация
huggingface-cli login
# Введите ваш токен из https://huggingface.co/settings/tokens

Теперь датасет. Для LFM2.5-1.2B-Instruct используйте формат чата:

[
  {
    "messages": [
      {"role": "system", "content": "Ты — помощник по программированию на Python."},
      {"role": "user", "content": "Как написать декоратор для кэширования?"},
      {"role": "assistant", "content": "Вот пример простого декоратора кэша..."}
    ]
  }
]

Сколько примеров нужно? Забудьте про правило "1000 минимум". Для узких задач хватит 200-300 качественных примеров. Лучше 200 отличных, чем 1000 посредственных.

2 Скрипт обучения с Unsloth: что изменилось в 2026

Код обучения на HF Jobs почти не отличается от локального, но есть критичные детали. Вот минимальный рабочий скрипт:

from unsloth import FastLanguageModel
import torch
from transformers import TrainingArguments
from trl import SFTTrainer
from datasets import load_dataset

# Загрузка модели с Unsloth оптимизациями
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="LiquidAI/LFM2.5-1.2B-Instruct",
    max_seq_length=2048,  # Можно увеличить до 4096, если хватит памяти
    dtype=torch.float16,
    load_in_4bit=True,  # QLoRA — стандарт на февраль 2026
)

# Добавление адаптеров LoRA
model = FastLanguageModel.get_peft_model(
    model,
    r=16,  # Ранг LoRA
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj",
                    "gate_proj", "up_proj", "down_proj"],
    lora_alpha=16,
    lora_dropout=0,
    bias="none",
    use_gradient_checkpointing=True,
    random_state=42,
)

# Загрузка датасета
dataset = load_dataset("json", data_files={"train": "dataset.json"})

def formatting_prompts_func(examples):
    texts = []
    for message in examples["messages"]:
        text = tokenizer.apply_chat_template(
            message,
            tokenize=False,
            add_generation_prompt=False
        )
        texts.append(text)
    return {"text": texts}

dataset = dataset.map(formatting_prompts_func, batched=True)

# Аргументы обучения
training_args = TrainingArguments(
    output_dir="./lfm2.5-finetuned",
    num_train_epochs=3,
    per_device_train_batch_size=2,  # Для T4 на HF Jobs
    gradient_accumulation_steps=4,
    warmup_steps=50,
    logging_steps=10,
    save_strategy="epoch",
    learning_rate=2e-4,
    fp16=True,
    optim="paged_adamw_8bit",
    report_to="none",  # Важно: отключаем WandB для экономии
)

# Тренер
trainer = SFTTrainer(
    model=model,
    tokenizer=tokenizer,
    train_dataset=dataset["train"],
    args=training_args,
    max_seq_length=2048,
    dataset_text_field="text",
)

# Запуск обучения
trainer.train()

# Сохранение
model.save_pretrained("lfm2.5-finetuned")
tokenizer.save_pretrained("lfm2.5-finetuned")

Обратите внимание на report_to="none". Если оставить WandB включённым, HF Jobs может пытаться отправлять логи, что иногда приводит к ошибкам.

3 Запуск на Hugging Face Jobs: хитрости, о которых не пишут

Создайте файл huggingface.yml:

compute:
  accelerator: gpu-t4
  instance_size: large
  instance_count: 1

environment:
  variables:
    HF_TOKEN: "{{ secrets.HF_TOKEN }}"

workspace: "./"

tasks:
  - name: finetune-lfm2.5
    job:
      runtime:
        image: huggingface/transformers-pytorch-deepspeed-cpu:latest
      resources:
        cpu: 4
        memory: 16GB
      env:
        - name: HF_HOME
          value: /tmp/hf
      entrypoint: python train.py
      args: []
    cache:
      paths:
        - ~/.cache/huggingface
        - ~/.cache/torch

Теперь самая важная команда:

# Запуск джобы с использованием бесплатных кредитов
huggingface-cli run "./huggingface.yml" \
  --compute "gpu-t4" \
  --instance-size "large" \
  --timeout 10800  # 3 часа максимум

Почему timeout 10800? Потому что если ваш скрипт зависнет, вы будете терять бесплатные кредиты. Лучше явно указать лимит.

4 Скачивание и запуск модели локально

После обучения модель сохранится в вашем HF пространстве. Скачайте её:

# Скачивание всей модели (адаптеры + база)
huggingface-cli download ваш_username/lfm2.5-finetuned --local-dir ./lfm2.5-finetuned

# Или только адаптеров LoRA (меньше размер)
huggingface-cli download ваш_username/lfm2.5-finetuned --include "*.bin" "*.json" --local-dir ./adapters

Для запуска используйте тот же код, что и для оригинальной модели, но с загрузкой адаптеров:

from unsloth import FastLanguageModel
import torch

# Базовая модель
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="LiquidAI/LFM2.5-1.2B-Instruct",
    max_seq_length=2048,
    dtype=torch.float16,
    load_in_4bit=True,
)

# Загрузка адаптеров
model.load_adapter("./adapters")

# Теперь модель использует ваши настройки
response = model.generate(
    "Вопрос по вашей специализации...",
    max_new_tokens=256,
    temperature=0.7,
)
print(response)

Ошибки, которые сломают ваш пайплайн (и как их избежать)

1. "Out of memory" на T4. Даже с Unsloth. Решение: уменьшите max_seq_length до 1024 или per_device_train_batch_size до 1. Не пытайтесь впихнуть 4096 контекста в 16 ГБ VRAM T4.

2. Датасет в неправильной кодировке. HF Jobs работает с UTF-8. Если ваш JSON сохранён в Windows-1251, скрипт упадёт. Конвертируйте заранее: iconv -f WINDOWS-1251 -t UTF-8 dataset.json > dataset_utf8.json.

3. Слишком долгая загрузка модели. HF Jobs имеет лимит на время инициализации. Если модель качается 10 минут, джоба может отмениться. Решение: используйте load_in_4bit=True и убедитесь, что образ контейнера содержит предзагруженные веса.

4. Нет вывода в логи. Добавьте в скрипт явный вывод:

import sys
import logging

logging.basicConfig(
    level=logging.INFO,
    format='%(asctime)s - %(levelname)s - %(message)s',
    handlers=[logging.StreamHandler(sys.stdout)]
)

5. Модель переобучилась после первой эпохи. Типично для маленьких датасетов. Используйте раннюю остановку или уменьшите learning rate до 1e-5.

Что дальше? Интеграция в ваши проекты

Настроенную LFM2.5-1.2B можно использовать где угодно. Вот несколько идей:

• Локальный чат-бот с вашей документацией. Объедините с RTX 5060 Ti 16GB для максимальной скорости.
• Генерация контента в вашем стиле. Обучите модель на ваших статьях или постах.
• Специализированный код-ассистент для вашего стека технологий.
• Интеграция в игры или интерактивные истории, как в Loki-v2-70B для нарратива, но с меньшими требованиями.

Самое интересное: после тонкой настройки LFM2.5-1.2B часто показывает результаты, сравнимые с большими моделями в своей узкой области. 1.2 миллиарда параметров — это не мало, это достаточно, если модель знает именно то, что нужно вам.

И последний совет: не зацикливайтесь на одной настройке. Бесплатные кредиты HF Jobs обновляются каждый месяц. Обучили модель на одном датасете, проверили результаты, нашли ошибки? Соберите новый датасет и обучите заново. Экспериментируйте с разными learning rate, размером контекста, методами LoRA. Это же бесплатно.

Через год, когда все будут говорить о настройке 100B-моделей за тысячи долларов, вы уже будете знать секрет: часто лучшее решение — маленькая, но идеально заточенная модель, обученная за ноль рублей и три часа времени.