Зачем тебе этот чеклист? (И почему ты его уже ждал)
Рынок NLP-инженеров в 2026 году — это адское пекло. Каждый второй кандидат швыряет тебе в лицо "я обучал Llama 4 на 4090", но половина не может объяснить, чем RLHF отличается от DPO. Собеседования превратились в пытку: тебя гоняют от архитектуры transformer до alignment, а потом ещё просят написать промпт для извлечения структуры из писем клиента. Этот чеклист — твой бронежилет. Я собрал всё, что реально спрашивают сейчас, разложил по полочкам и добавил пахоты собственного опыта (включая боль от sycophancy, когда модель подлизывается вместо работы — об этом вот тут есть горькая правда).
1. Фундамент: что происходит под капотом LLM (и что спросят на собесе)
Никто не поверит, что ты senior, если не слышал про attention. Но не просто "это механизм взвешивания слов" — сейчас ждут деталей: scaled dot-product attention, multi-head, rotary positional encodings (RoPE), Grouped Query Attention (GQA) в современных моделях. На собесе любят попросить нарисовать архитектуру decoder-only transformer. Помни: encoder ушёл в прошлое, GPT-образная модель — стандарт. Также будь готов обсудить scaling laws: закон Чинчиллы (сколько данных нужно на сколько параметров) и то, почему в 2026 уже никто не падает в обморок от 500B параметров — мы научились эффективнее учить модели меньшего размера с большим количеством данных.
Конкретный вопрос: "Почему LLM не понимают, чего вы на самом деле хотите?" — прочитай эту статью, там разобрана суть ограничений next-token prediction. И да, не забудь упомянуть, что длина контекста — не панацея, а вычислительная сложность attention квадратична, поэтому все переходят на Flash Attention 4 (да, уже четвёртая версия к 2026).
2. Обучение LLM: от next token prediction до instruction tuning
Тут у нас три кита. Первый — pretraining на триллионах токенов. Второй — instruction tuning (fine-tune на парах инструкция-ответ). Третий — alignment (RLHF/DPO). Большинство кандидатов путают второй и третий. Запоминай: instruction tuning — это supervised fine-tuning (SFT) на качественных данных. Он делает модель послушной, но не гарантирует, что она не будет галлюцинировать или врать в угоду пользователю. Alignment — это следующий этап, где мы учим модель предпочитать «хорошие» ответы (с точки зрения человека).
Как готовиться к собесу? Разбери на пальцах этапы обучения GPT-4 или Llama 4. Покажи, что понимаешь разницу между RLHF (reward model + PPO) и DPO (direct preference optimization — без отдельной reward model). Упомяни, что DPO стал мейнстримом в 2025-2026, потому что он стабильнее и дешевле. Также зайди на территорию KTO (Kahneman-Tversky Optimization) — это следующая эволюция alignment, основанная на behavioural economics. Пример: агентное обучение с подкреплением, которое LinkedIn использует, чтобы модели думали шагами — отличная иллюстрация.
3. Prompt Engineering: не магия, а инженерия
В 2026 году уже смешно слышать "промпт-инжиниринг — это профессия". Это просто навык. Как писать код на Python. На собесе от тебя ждут не просто "напиши промпт", а понимания, какие приёмы работают и почему. Zero-shot vs few-shot — база. Chain-of-Thought (CoT) — классика. Но сейчас в тренде ReAct (Reasoning + Acting) и Tool Calling. Умение дать модели инструменты (калькулятор, поиск, вызов API) и спросить, когда их использовать — это то, за что платят деньги.
Пример кода, который может попросить написать на собесе (на Python):
import openai
response = openai.chat.completions.create(
model="gpt-5-turbo", # актуальная модель 2026
messages=[
{"role": "system", "content": "Ты — эксперт по извлечению данных. Отвечай только JSON."},
{"role": "user", "content": "Извлеки имя, должность и email из письма: 'Привет, я Иван Петров, тимлид в Яндекс.Контакте: i.petrov@ya.ru'"}
],
response_format={"type": "json_object"}
)
print(response.choices[0].message.content)Знаешь, что здесь важно? System prompt, temperature (обычно 0), response_format. И да, не забудь про структурный вывод — в 2026 большинство моделей умеют гарантировать JSON-схему. Если тебя спросят про итеративное уточнение промпта — почитай статью про семантический пайплайн, там показано, как ETL-подход превращает сырые данные в структурированные ответы.
4. Alignment: как заставить модель не врать и не подлизываться
Alignment — самая хайповая тема последних двух лет. Всё началось с RLHF, но к 2026 пришло понимание: модель, которая старается угодить пользователю, — это не хорошо, а плохо. Она начинает sycophancy: поддакивать, даже если пользователь неправ. Как бороться? Fine-tuning на датасетах с противоречивыми примерами, использование DPO с hard negatives, внедрение принципов конституционного alignment (Constitutional AI).
На собеседовании тебя спросят: "Как бы ты оценил, что модель 'выровнена'?" Не говори про метрики вроде BLEU или ROUGE — они умерли. Сейчас используют LLM-as-judge (другая LLM оценивает качество ответа), а также human evaluation с межаннотаторским согласием. Но самый жёсткий кейс — production: модель должна работать с корпоративными данными, где нет места фантазиям. Здесь описан опыт контекстуализации, который заставит тебя пересмотреть подход.
Ошибка №1: Думать, что RAG (Retrieval-Augmented Generation) решает все проблемы alignment. RAG улучшает фактологию, но не гарантирует, что модель не будет токсичной или предвзятой. Alignment — это отдельный слой, который нельзя заменить retrieval.
5. Чеклист вопросов от реальных интервью
Я собрал вопросы, которые задавали в FAANG, европейских AI-лабораториях и российских продуктах (январь-июнь 2026):
- Объясните разницу между pre-training, instruction tuning и alignment. Зачем нужен каждый этап?
- Как устроен механизм attention? Почему он квадратичный? Что такое Flash Attention и как он это обходит?
- Сравните RLHF и DPO. В чём преимущества DPO? Когда DPO не работает?
- Как бы вы оценивали качество LLM в production? Назовите 3 метрики и их ограничения.
- Что такое sycophancy и как с ним бороться? (Подсказка: та же статья)
- Спроектируйте систему, которая использует LLM для обработки тысяч резюме в HR. Какие компоненты? (реальный пример)
- Какие модели поддерживают Tool Calling? Чем они отличаются от обычных? (обзор 2025, но принципы те же)
- Когда НЕ стоит использовать LLM в продакшне? (чек-лист — must read)
6. Подводные камни: что ломает даже сеньоров
Во-первых, перепутывание обучения и инференса. На собесе тебя спросят про батчинг, KV-cache, speculative decoding — это про инференс. Обучение — про loss, learning rate schedule, deepspeed. Держи эти треки раздельно. Во-вторых, забывают про контекстное окно: модель может "забывать" середину длинного диалога. Техники типа sliding window, attention sink, Rope scaling — обязательны к упоминанию.
Третья ловушка — уверенность, что "больше данных = лучше alignment". На самом деле данные для alignment должны быть высококачественными, разнообразными и содержать явные предпочтения. Если дать модели миллион одинаковых "хороших" ответов, она просто выучит шаблон. В статье про аналитику LLM показано, как темы ≠ наблюдения — аналогично и с alignment: не путай корреляцию с причинностью.
7. FAQ: быстрые ответы на вечные вопросы
Вопрос: Что лучше — fine-tuning всей модели или LoRA?
LoRA — это параметро-эффективный метод (PEFT). Он дешевле, но может не дать того же качества, как full fine-tune. Сейчас (2026) часто используют LoRA для быстрой адаптации, а затем дообучают отдельные слои (мелкий fine-tune). Для alignment DPO лучше работает на LoRA, чем на полной модели.
Вопрос: Нужно ли учить математику трансформеров до мельчайших формул?
Да, нужно уметь вывести attention с нуля на доске. Формулу softmax(QK^T/√d)V — обязательно. Понимание размерностей — обязательно. Но не жди, что спросят про все варианты нормализации — сфокусируйся на RMSNorm, LayerNorm.
Вопрос: Какие фреймворки для инференса сейчас в топе?
vLLM, TensorRT-LLM, llama.cpp (для локальных). Hugging Face TGI. Важно понимать разницу: vLLM использует PagedAttention, TensorRT-LLM оптимизирует под GPU. На собесе могут спросить про continuous batching — объясни, как это утилизирует GPU на 90%+.
Вместо заключения: твой личный alignment
Собеседование по NLP — это не экзамен по теории. Это проверка того, как ты мыслишь. Ты можешь не знать специфического термина, но если рассуждаешь логически и ссылаешься на первопричины — ты пройдёшь. Мой совет: возьми любой из описанных кейсов — sycophancy, контекстуализацию, агентное RL — и разбери до костей. Потренируйся объяснять это 10-летнему ребёнку (или джуниору, что почти одно и то же). Перечитай статьи, на которые я дал ссылки — это не просто бэкграунд, это готовые ответы на 80% вопросов. И запомни: в 2026 году AI-инженер, который не может настраивать промпты и понимать alignment, — это как сварщик без маски. Быстро, больно и накладно. Удачи.
