Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5424 материалов
01 Freetoken и MoE offload: сравнение с llama.cpp для локального запуска моделей Freetoken и llama.cpp по-разному подходят к выгрузке экспертов MoE на ограниченной VRAM. Разбираем, что подтверждено документацией llama.cpp, почему по Freetoke 8 мин чтения 02 VeriLoop E2: как заставить LLM предлагать, но не менять проверенное состояние VeriLoop E2 - 27B-модель на базе Qwen3.8-27B с весами Apache-2.0 и правилом VGR: разбираем защищённый коммит состояния, частичный порядок вместо скалярной награ 7 мин чтения 03 Llama.cpp или vLLM: что выбрать для локального запуска MoE-моделей в 2026 году Разбираем переход с llama.cpp на vLLM на конфигурации HP Z8 G4 (512 ГБ RAM, RTX 3090 и RTX 5060 16 ГБ): кто быстрее получает поддержку новых MoE-моделей, как об 10 мин чтения 04 Как разрезать монолит на Python-пакеты: опыт Charoite, границы модулей и сторож на AST вместо import-linter В проекте Charoite 29 тысяч строк и около 60 файлов лежали в одной папке src/. Разбираем план из семи пакетов со стрелками зависимостей только вниз, самодельный 8 мин чтения 05 Как дать локальной LLM доступ к веб-поиску и браузеру: варианты без дорогих API webfetch-плагины открывают только те URL, которые вы вставили вручную, поэтому модель не ищет сама. Разбираем четыре способа добавить локальной LLM поиск и брау 11 мин чтения 06 Штраф за «wait» и «maybe»: как logit bias в llama.cpp повышает точность Qwen на разных квантизациях Отрицательный logit bias -2 на слова «wait», «maybe» и «perhaps» поднял точность Qwen3.5-4B на MATH-500 во всех пяти GGUF-квантизациях, от BF16 до Q2_K, а цепоч 7 мин чтения 07 MiMo 2.6 Flash против GLM 5.3 Flash: что выбрать для реальной разработки Прямого сравнения MiMo 2.6 Flash и GLM 5.3 Flash от тех, кто работал с обеими моделями, пока нет. Разбираем, что подтверждено, почему одного DeepSWE недостаточн 8 мин чтения 08 «Пульт управления концом»: как ИИ-ускорение меняет численность команд и экономику софтверных вендоров Автор модели W считает численность команды и ФОТ при заданном ИИ-ускорении: при ×3,2 и снижении переделок с 35% до 15% команда из 30 человек сжимается до 4,2 че 10 мин чтения 09 Улучшенный Jinja-шаблон чата для Poolside Laguna XS и S 2.1: force_thinking, reasoning_effort и экономия контекста Обновлённый Jinja-шаблон для Poolside Laguna XS и S 2.1 добавляет force_thinking, пресеты reasoning_effort (none, auto, max) и отключаемый preserve_thinking. Ра 6 мин чтения 10 Апгрейд домашнего AI-сервера с 3x RTX 3090 на 2x RTX 5090: что дают NVFP4 и speculative decoding в llama.cpp Практический кейс: переход с трёх RTX 3090 на две RTX 5090 в llama.cpp на Qwen3.8-27B Q8_0 и отдельный прирост от NVFP4 со speculative decoding. Разбираем честн 10 мин чтения 11 Сквозной ML/MLOps-пайплайн для финмониторинга: почему ранжирование по риску работает лучше бинарной классификации Старший инженер по данным Максим Коцюба собрал сквозной ML/MLOps-контур для поиска подозрительных операций, где модель ранжирует их по риск-скору вместо бинарно 8 мин чтения 12 Инженер-продакт: как AI меняет профессии в разработке, дизайне и продукте Разработчик без знания Swift выпустил нативное macOS-приложение за три дня: код писал Claude Code. Разбираем, что этот сдвиг значит для программистов, дизайнеро 6 мин чтения