Перейти к содержанию
Ctrl K
Telegram
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

3264 материалов
01 Как ускорить обучение моделей в 2 раза: полный гайд по streaming datasets от Hugging Face Практическое руководство по использованию streaming=True в Hugging Face Datasets для работы с терабайтными датасетами без OOM ошибок и ускорения обучения. 8 мин чтения 02 Как ускорить тонкую настройку LLM в 20 раз с RapidFire AI и TRL: практическое руководство Практическое руководство по ускорению тонкой настройки LLM в 20 раз с RapidFire AI и TRL. Конфигурации RFSFTConfig, RFDPOConfig, адаптивное планирование экспери 8 мин чтения 03 Qwen3-30B квантованный против Qwen3-14B и Gemma-12B: что реально работает на 12 ГБ VRAM Практический тест: какая модель даст 20+ токенов/сек на RTX 3080 Ti с 12 ГБ VRAM. Квантование, активированные параметры, реальная производительность. 6 мин чтения 04 Полное руководство по выбору и использованию open-source OCR моделей в 2024: от Chandra до OlmOCR-2 Экспертный гайд по современным open-source OCR и Vision Language Models. Сравнение Chandra, OlmOCR-2, Mistral OCR 3. Как выбрать модель, когда fine-tune, практи 7 мин чтения 05 Как 100 беспилотников на RL разгрузили пробки: кейс масштабного развертывания reinforcement learning Практический кейс: 100 беспилотников на reinforcement learning уменьшили пробки на 37%. От симуляции к реальному миру - полный план развертывания. 7 мин чтения 06 PyTorch в Core ML за 30 минут: запускаем SOTA OCR на Neural Engine без облаков Пошаговый гайд по конвертации PyTorch моделей в Core ML для запуска SOTA OCR на Neural Engine Apple. Энергоэффективность, скорость, локальное выполнение. 7 мин чтения 07 Токенизаторы в Transformers v5: ломаем чёрный ящик и собираем свой Полное руководство по архитектуре токенизаторов в Transformers v5. Учимся разделять backend и словарь, обучаем свои токенизаторы для специфичных задач. 10 мин чтения 08 Мультимодальный RAG с Llama Nemotron: как искать в документах с картинками, таблицами и схемами Пошаговый гайд по настройке мультимодального RAG с Llama Nemotron для поиска в визуальных документах. Архитектура, эмбеддинги, векторные базы и практические при 7 мин чтения 09 llama.cpp vs Ollama: почему одна модель генерирует код в 1.7 раза медленнее Детальный разбор причин 70% разницы в скорости генерации кода на Qwen-3 Coder 32B между llama.cpp и Ollama. CUDA ядра, оптимизации, практические настройки. 7 мин чтения 10 Claude 3 как автономный тренер моделей: загрузка данных, запуск GPU и залив на Hugging Face без вашего участия Как настроить Claude 3 для полного цикла обучения LLM: выбор железа, подготовка данных, запуск обучения на облачных GPU и публикация на Hugging Face Hub. 9 мин чтения 11 Ускорение Qwen3-8B агента в 1.4 раза на Intel Core Ultra: спекулятивное декодирование и прунинг draft-модели Практическое руководство по ускорению Qwen3-8B агента в 1.4 раза на Intel Core Ultra через спекулятивное декодирование и прунинг draft-модели с OpenVINO GenAI 9 мин чтения 12 Как ускорить семантический поиск в 20 раз: бинарный индекс + int8 рескор на CPU Практическое руководство по ускорению семантического поиска в 20 раз на CPU с помощью бинарных индексов Faiss и int8 квантования рескор моделей. Экономия памяти 8 мин чтения