Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5433 материалов
01 DGX Spark: практические результаты тестов DeepSeek V4 Flash, Qwen3.8 Flash Next и Qwen3.8-27B Как сравнивать DeepSeek V4 Flash, Qwen3.8 Flash Next, Qwen3.8-27B и Qwen3.6-35B-A3B на четырёх DGX Spark: чек-лист метрик и условий запуска. Разбираем, почему п 11 мин чтения 02 Qwen 3.8 Next UD IQ1_S против Qwen 3.8 27B UD Q4: есть ли смысл в ультранизкой квантизации Практическое сравнение Qwen 3.8 Next UD IQ1_S и Qwen 3.8 27B UD Q4 без выдуманных бенчмарков: разберем экономию VRAM, возможные потери качества, влияние offload 11 мин чтения 03 Qwen3.8-Flash-Next и mmap: почему tensor-read-lazy не спасает от нехватки памяти Qwen3.8-Flash-Next может не помещаться в память даже при включенном tensor-read-lazy. Разбираем разницу между mmap и load-mode auto, влияние --ngl, --split-mode 11 мин чтения 04 Что будет с локальными LLM, если frontier-лабы потеряют позиции в 2026 году Ослабление frontier-лабораторий не уничтожит локальные LLM, но способно изменить цены на GPU, стоимость инференса и баланс между открытыми и закрытыми моделями. 10 мин чтения 05 Как потратить $4000 на AI-апгрейд: второй GPU, локальные модели и практичный сценарий для кодинга и медиа Разбираем, как потратить $4000 на AI-апгрейд без переплаты: выбрать вторую GPU, отдельный AI-сервер или улучшить память, накопитель и программный стек. Сравнива 16 мин чтения 06 Как запустить Qwen 27B с контекстом 100K на 16 ГБ GPU через beellama.cpp Практический разбор запуска Qwen 27B на GPU с 16 ГБ VRAM через beellama.cpp и llama-server. Разбираем квантование, KV cache, контекст 100K, tail precision, spec 16 мин чтения 07 GLM-5.3-Flash или DeepSeek-V4-Flash-0731 локально: HumanEval, nvfp4, VRAM и контекст Разбираем, как выбрать между GLM-5.3-Flash и DeepSeek-V4-Flash-0731 на своем железе без чужих цифр: методика проверки HumanEval и pass@1, влияние nvfp4 на VRAM 14 мин чтения 08 MTPLX ускоряет локальный запуск Qwen на Apple Silicon: как работает новый подход к MTP Разбираем, как MTPLX связывает MTP, draft depth и MLX-ready конвертацию для ускорения Qwen на Apple Silicon. Объясняем разницу между prefill и decode, ограничен 13 мин чтения 09 Как собрать локального исследовательского агента на небольшой LLM и какие данные для этого нужны Разбираем, как собрать локального исследовательского агента на небольшой LLM: зачем нужны RAG и внешние инструменты, почему arXiv-абстрактов недостаточно и каки 15 мин чтения 10 Почему китайским LLM важно догнать уровень Opus-класса и что это меняет для рынка Разбираем, что означает «догнать Opus» для китайских LLM, где разница в качестве действительно влияет на результат и почему AI-рынок смещается от токенов к вычи 12 мин чтения 11 Как заменить RAG более дешевыми NLP-методами в enterprise-документах Разбираем, чем заменить RAG в enterprise-документах: точным совпадением, нормализацией OCR-шума, словарями, классификаторами и embeddings. Показываем каскадную 13 мин чтения 12 Почему преимущество Nvidia в AI смещается от GPU к системной оркестрации Производительность AI-дата-центра всё меньше определяется одной видеокартой. Разбираем, как память, KV-кэш, PCIe, сеть, prefill, decode и программный стек форми 14 мин чтения