Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5433 материалов
01 ShimQuant для Nemotron-3.5-Lightning: как довести 30B-модель до рабочего 16 GB варианта Разбираем, как ShimQuant может приблизить Nemotron-3.5-Lightning к запуску на GPU с 16 GB VRAM, почему обычные GGUF-кванты оказываются тяжелее ожиданий и где пр 10 мин чтения 02 Как превратить LLM в полезного помощника для работы с микроконтроллерами Разбираем, почему LLM генерирует правдоподобный код для микроконтроллера, но ошибается в пинах, периферии и конфигурации конкретной платы. Показываем, как собра 11 мин чтения 03 Как выстроить корпоративный AI-конвейер: 7 ошибок внедрения ИИ в компании Разбираем, почему корпоративное внедрение ИИ буксует даже при наличии готовых LLM и no-code-инструментов. Показываем 7 типичных ошибок, устройство AI-конвейера, 17 мин чтения 04 Terminal Bench 4.0: как оценивать кодинг-агентов без гигантских бенчмарков Разбираем, что показывает Terminal Bench 4.0 и почему одного места в лидерборде недостаточно для выбора кодинг-агента. Пошагово собираем компактный evaluation-н 14 мин чтения 05 Как настроить Qwen3.8 в llama.cpp на двух RTX 3090: GGUF, MTP, tensor split и длинный контекст Практическая инструкция по настройке Qwen3.8 в llama.cpp на двух RTX 3090: как проверить GGUF, распределить модель через tensor split, оценить поддержку MTP, по 13 мин чтения 06 Qwen3.8-Flash-Next на Strix Halo с MTP: запуск через Vulkan в llama.cpp Практический разбор запуска Qwen3.8-Flash-Next на Strix Halo через Vulkan в llama.cpp. Разбираем unified memory, AMDGPU, сборку нужного форка, подключение MTP d 14 мин чтения 07 Почему важно проверять код AI-агента: риски, ревью и цена слепого доверия AI-агент пишет код быстро, но скорость не гарантирует правильную логику, безопасность и отсутствие технического долга. Разбираем риски слепого доверия и даем пр 11 мин чтения 08 Разные уровни thinking в Qwen: что меняется в качестве ответов и локальном запуске Разбираем, как уровни thinking в Qwen меняют качество ответов, задержку, расход токенов и требования к VRAM. Практическая матрица поможет выбрать быстрый, средн 13 мин чтения 09 Почему ИИ-чатам нельзя доверять вслепую: как документация влияет на ответы Алисы AI и ГигаЧата Разбираем, почему Алиса AI и ГигаЧат могут по-разному отвечать на один технический запрос, где документация Cloud.ru и неоднозначные термины провоцируют ошибки 14 мин чтения 10 Qwen3.8-Next на Mac M5 Air: как MoE-модель ведет себя в streaming-стеке Разбираем, как проверять Qwen3.8-Next на Mac M5 Air в streaming-стеке: prefill, decode, задержка первого токена, KV-cache и пиковая память. Даём чек-лист метрик 12 мин чтения 11 Как speculative decoding и MTP ускоряют генерацию в LLM на предсказуемых фразах Разбираем, как speculative decoding и MTP сокращают задержку генерации LLM, почему шаблонные фразы и код ускоряются заметнее, чем свободное рассуждение, и где с 12 мин чтения 12 Как Open ASR Leaderboard начал учитывать Hindi и Indian English: почему ASR-бенчмаркам нужны новые языки и метаданные Open ASR Leaderboard добавил Hindi и Indian English, показав, почему одного общего WER недостаточно для честного сравнения ASR-моделей. Разбираем роль метаданны 10 мин чтения