Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

1141 Как настроить Qwen3.8 в llama.cpp на двух RTX 3090: GGUF, MTP, tensor split и длинный контекст Практическая инструкция по настройке Qwen3.8 в llama.cpp на двух RTX 3090: как проверить GGUF, распределить модель через tensor split, оценить поддержку MTP, по 13 мин чтения 1142 Qwen3.8-Flash-Next на Strix Halo с MTP: запуск через Vulkan в llama.cpp Практический разбор запуска Qwen3.8-Flash-Next на Strix Halo через Vulkan в llama.cpp. Разбираем unified memory, AMDGPU, сборку нужного форка, подключение MTP d 14 мин чтения 1143 Почему важно проверять код AI-агента: риски, ревью и цена слепого доверия AI-агент пишет код быстро, но скорость не гарантирует правильную логику, безопасность и отсутствие технического долга. Разбираем риски слепого доверия и даем пр 11 мин чтения 1144 Разные уровни thinking в Qwen: что меняется в качестве ответов и локальном запуске Разбираем, как уровни thinking в Qwen меняют качество ответов, задержку, расход токенов и требования к VRAM. Практическая матрица поможет выбрать быстрый, средн 13 мин чтения 1145 Почему ИИ-чатам нельзя доверять вслепую: как документация влияет на ответы Алисы AI и ГигаЧата Разбираем, почему Алиса AI и ГигаЧат могут по-разному отвечать на один технический запрос, где документация Cloud.ru и неоднозначные термины провоцируют ошибки 14 мин чтения 1146 Qwen3.8-Next на Mac M5 Air: как MoE-модель ведет себя в streaming-стеке Разбираем, как проверять Qwen3.8-Next на Mac M5 Air в streaming-стеке: prefill, decode, задержка первого токена, KV-cache и пиковая память. Даём чек-лист метрик 12 мин чтения 1147 Как speculative decoding и MTP ускоряют генерацию в LLM на предсказуемых фразах Разбираем, как speculative decoding и MTP сокращают задержку генерации LLM, почему шаблонные фразы и код ускоряются заметнее, чем свободное рассуждение, и где с 12 мин чтения 1148 Как Open ASR Leaderboard начал учитывать Hindi и Indian English: почему ASR-бенчмаркам нужны новые языки и метаданные Open ASR Leaderboard добавил Hindi и Indian English, показав, почему одного общего WER недостаточно для честного сравнения ASR-моделей. Разбираем роль метаданны 10 мин чтения 1149 DGX Spark: практические результаты тестов DeepSeek V4 Flash, Qwen3.8 Flash Next и Qwen3.8-27B Как сравнивать DeepSeek V4 Flash, Qwen3.8 Flash Next, Qwen3.8-27B и Qwen3.6-35B-A3B на четырёх DGX Spark: чек-лист метрик и условий запуска. Разбираем, почему п 11 мин чтения 1150 Qwen 3.8 Next UD IQ1_S против Qwen 3.8 27B UD Q4: есть ли смысл в ультранизкой квантизации Практическое сравнение Qwen 3.8 Next UD IQ1_S и Qwen 3.8 27B UD Q4 без выдуманных бенчмарков: разберем экономию VRAM, возможные потери качества, влияние offload 11 мин чтения 1151 Qwen3.8-Flash-Next и mmap: почему tensor-read-lazy не спасает от нехватки памяти Qwen3.8-Flash-Next может не помещаться в память даже при включенном tensor-read-lazy. Разбираем разницу между mmap и load-mode auto, влияние --ngl, --split-mode 11 мин чтения 1152 Что будет с локальными LLM, если frontier-лабы потеряют позиции в 2026 году Ослабление frontier-лабораторий не уничтожит локальные LLM, но способно изменить цены на GPU, стоимость инференса и баланс между открытыми и закрытыми моделями. 10 мин чтения