Тематическая лента
Подборка материалов
Публикации, объединённые общей практической задачей.
5533
материалов
01
Multiplex Thinking: практическое руководство по применению нового метода рассуждения для LLM
Пошаговое руководство по внедрению Multiplex Thinking для улучшения рассуждений LLM. Открытый код, примеры и сравнение с Chain-of-Thought.
02
MXFP4 против Q4_K_M: неожиданный победитель на старом железе Tesla P40
Сравнительный тест квантования MXFP4 и Q4_K_M для моделей 30B+ на Tesla P40. Результаты перплексии, скорости, оптимизация памяти GPU.
03
Как Роберт Мартин (Uncle Bob) использует AI-ассистентов для отладки: разбор реального кейса
Как автор "Чистого кода" использует Claude и Grok для отладки и оптимизации. Практические примеры, сравнение моделей и ошибки, которые совершают 90% разработчик
04
Scalable Power Sampling: как улучшить рассуждения LLM без дообучения и снизить латенцию в 10 раз
Новый training-free алгоритм для улучшения reasoning LLM. Снижает латенцию в 10 раз без дообучения моделей. Объяснение метода, сравнение с MCMC и GRPO.
05
Пишем и делимся высокопроизводительными ROCm-ядрами для PyTorch: полный гайд на примере GEMM
Пошаговое руководство по разработке и публикации высокопроизводительных ROCm-ядер для PyTorch на примере GEMM kernel. Инструменты, оптимизации, ошибки.
06
Бесплатный AI-сервер за 30 минут: Qwen2.5-3B на Oracle Cloud с llama.cpp
Пошаговое руководство по запуску Qwen2.5-3B на бесплатном сервере Oracle Cloud с llama.cpp, квантованием Q4_K_M и бэкендом для продакшена. CPU-инференс, классиф
07
AI-кодинг 2026: как перейти с ручного программирования на управление агентами (на примере опыта Андрея Карпатого)
Андрей Карпатый признал: ручное программирование умирает. Полный гайд по переходу на управление AI-агентами в 2026 году с Claude Opus 4.5 и GPT-5.2.
08
Differential Transformer V2: разбор кода и сравнение производительности с V1
Подробный разбор кода Differential Transformer V2 от Microsoft, сравнение производительности с V1, оптимизация внимания и grouped query attention.
09
Повторяем эксперимент Карпати: как за $100 обучить модель лучше GPT-2
Практическое руководство по повторению эксперимента Андрея Карпати — обучение nanochat модели, превосходящей GPT-2, всего за $100. Архитектура, код, нюансы.
10
Маленькие LLM против гигантов: когда ваш ноутбук сможет заменить Gemini 3 Flash
Экспертный разбор: смогут ли маленькие LLM на вашем ПК заменить Gemini 3 Flash для генерации JSON и игр. Квантование, MoE, дистилляция и реалистичные сроки.
11
LLM-IDS/IPS для nginx на DGX Spark: строим систему безопасности на gpt-oss-120b
Создаем систему обнаружения атак для nginx на локальном DGX Spark с gpt-oss-120b. Полный туториал: архитектура, ложные срабатывания, Telegram-уведомления, автоб
12
vLLM CPU Offloading: Как заставить 70-миллиардную модель работать на GTX 1060
Полный гайд по vLLM CPU Offloading — запускаем большие модели на слабом железе с оффлоадингом слоев в RAM. Настройка, оптимизация, практические примеры.