Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5432 материалов
01 Как локально связать Qwen 3.8 27B с Blender 5.x через MCP для генерации 3D-сцен Практический разбор связки Qwen 3.8 27B, Blender 5.x и MCP: роли компонентов, проверка VRAM и runtime, настройка blender-mcp и .mcp.json, а также пошаговый сцен 19 мин чтения 02 Как выбрать модель для vLLM: Qwen, Gemma и другие семейства без перебора всех карточек Разбираем, как выбрать Qwen, Gemma или другую модель для локального запуска в vLLM без ориентации на одни лайки и размер репозитория. Чек-лист охватывает тип об 12 мин чтения 03 Open Terminal для Open WebUI: как безопасно дать модели shell и ускорить работу с большими документами Разбираем Open Terminal как companion-контейнер для Open WebUI: как дать локальной модели ограниченный shell-доступ, искать по большим документам и не перегружа 15 мин чтения 04 Как проверить реальную емкость KV cache в локальных LLM и поймать ложные обещания движка Показываем, как провести stress test KV cache в локальной LLM: откалибровать hit и miss, проверить удержание стабильных контекстов и прочитать retained tokens, 15 мин чтения 05 Project Vend: как Claude управлял реальным магазином и где ломаются ИИ-агенты в бизнесе Project Vend от Anthropic показал, где ИИ-агент полезен в реальном магазине, а где ломается: шутка про вольфрамовый куб, щедрые скидки и границы автономности. Р 7 мин чтения 06 Как mmap в llama.cpp помогает запускать Qwen3.8-Flash-Next IQ3_XSS на 16 ГБ VRAM и 64 ГБ RAM Разбираем, как mmap в llama.cpp помогает запустить Qwen3.8-Flash-Next IQ3_XSS на системе с 16 ГБ VRAM и 64 ГБ RAM. Объясняем распределение нагрузки между GPU, R 15 мин чтения 07 Как слепой поиск гипотез в фармацевтике находит кандидатов и недостающие параметры Слепой поиск гипотез в фармацевтике может восстановить известную связь, найти потенциальный research gap или показать, каких параметров не хватает для проверки. 12 мин чтения 08 Новые GGUF-кванты Qwen3.8-27B: что дают GSQ-RCO на 2,5–3,0 bpw Разбираем заявленные GGUF-кванты Qwen3.8-27B на базе GSQ-RCO: размер 8,4–10,1 ГБ, сравнение с BF16 и Unsloth Dynamic quants. Узнайте, как работают GSQ и RCO, ка 12 мин чтения 09 Qwen3.8-27B на 16 ГБ VRAM: как проверить локальную AI-песочницу с kvarn-квантами Разбираем, как проверить запуск Qwen3.8-27B на 16 ГБ VRAM: память весов, kvarn-кванты, KV cache, draft cache, контекст и ограничения кейса. 6 мин чтения 10 Как на 2× DGX Spark добиться 181 tok/s aggregate на Qwen3.8-Flash-Next: память, NVMe и настройка vLLM Практический разбор 181 tok/s aggregate на 2× DGX Spark с Qwen3.8-Flash-Next: чем aggregate throughput отличается от single-stream decode, почему NCCL может нез 16 мин чтения 11 Qwen3.8-Flash-Next-oQ4e-mtp на Apple Silicon: что известно о локальном инференсе и сравнении с Qwen3.8 27B Разбираем, что означают заявленные 45 tok/s на M4 Max и 25 tok/s на M2 Ultra для Qwen3.8-Flash-Next-oQ4e-mtp, почему эти цифры пока нельзя считать подтверждённы 11 мин чтения 12 Какие локальные модели запускать на M5 Max в 2026 году: Qwen, DS4, GLM и влияние квантования Практический разбор выбора локальных LLM для M5 Max в 2026 году: как сопоставить Qwen, DS4 и GLM, оценить память и выбрать квант под чат, код, документы и RAG. 14 мин чтения