Вы скачали GGUF-файл, загрузили в llama.cpp и получили токены. Но что на самом деле лежит внутри этого бинарного монстра? Только веса? А вот и нет. GGUF — это не просто свалка float'ов, а полноценный контейнер с метаданными, токенизатором и даже кусками chat template. Давайте заглянем под капот и разберем, из чего сделан ваш любимый формат локального инференса. А заодно – поймем, чего в нем отчаянно не хватает.
16 Май 2026
•
Гайд
GGUF-формат: что внутри помимо весов и чего ещё не хватает? Полный разбор структуры
Глубокий технический разбор GGUF: структура файла, метаданные, токенизатор, квантизация. Что не хватает формату для идеального деплоя LLM.
