Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
685
Кластеры DGX Spark: сколько устройств реально нужно для запуска DeepSeek и других крупных LLM
Двух DGX Spark хватает для DeepSeek в 4-битной квантизации и не хватает для FP16 с длинным контекстом. Разбираем, как считаются веса и KV-кэш по узлам, где упир
686
Домашний инференс-сервер за $3k: 128 ГБ VRAM на четырёх Radeon V620 и EPYC 7452
Реальная сборка домашнего сервера для локального инференса LLM за ~$3000: 4× Radeon V620 на 128 ГБ VRAM, EPYC 7452, 256 ГБ DDR4 и БП на 1600 Вт. Разбираем цифры
687
ТЗ из связанных документов: почему Jira и Confluence не справляются и как помогает MCP
Опыт системного аналитика: почему ТЗ в Confluence и Word устаревает, каких возможностей не хватает Jira и как собрать ТЗ из связанных карточек требований. Плюс
688
RTX 3090 против MacBook M5 Pro: практический опыт запуска Qwen 3.8 27B локально, 20 и 100 токенов в секунду
Разбор реального кейса: переход с MacBook M5 Pro (48 ГБ) на Linux с RTX 3090 для Qwen 3.8 27B дал рост с 20 до 100 токенов в секунду. Почему на Mac не помогло к
689
Апгрейд AI-сервера на EPYC 7551 и 2×RTX 3090: третья видеокарта или новый CPU за $800
Qwen3-Flash-Next на 177B выдаёт 38 tok/s в один поток и проседает до 4 tok/s при двух запросах. Разбираем, что снимет узкое место в бюджете $800: третья RTX 309
690
Автоматизация длительных задач с локальными LLM: как не терять контекст при работе с большой кодовой базой
Локальная LLM упирается в переполнение контекста на длинных задачах с большой кодовой базой. Разбираем harness: пять подсистем, порог 80%, wrap-up checklist и а
691
Спекулятивное декодирование Qwen3.8-27B на 16 ГБ: опыт запуска на RX 9070 XT с ~60 ток/с
Пользователь запустил Qwen3.8-27B на RX 9070 XT с 16 ГБ VRAM и получил около 60 ток/с. Разбираем связку с draft-моделью, KV-кэш k 8_0/v 4_0, контекст 128k и нюа
692
smolbenchmark: бенчмарк малых LLM для слабого железа - от Raspberry Pi до Jetson
smolbenchmark измеряет не абстрактный рейтинг, а tok/s, токены на джоуль и нагрев на реальном слабом железе. Разбираем метрики, текущее покрытие платформ и то,
693
Регулирование AI-моделей: что обсуждают в сообществе и что это значит на практике
Разбираем, что такое регулирование AI-моделей и какие аспекты обычно попадают под правила: прозрачность, безопасность, лицензирование и доступность. Отдельно см
694
Дэрио Амодеи предлагает антимонопольное исключение для AI-лабораторий: что это значит и какие вопросы вызывает
Глава Anthropic Дэрио Амодеи предложил узкое антимонопольное исключение для передовых AI-лабораторий, чтобы управлять темпами разработки ИИ. Разбираем, кто подд
695
DeepSeek v4.1 Flash на DS4: скорость, квантизация q2 и tool calls в реальном воркфлоу
Разбираем практический опыт запуска DeepSeek v4.1 Flash на DS4 с квантизацией q2: около 300 t/s на prefill, 16 t/s на decode и просадка только после 110k токено
696
ИИ и кризис фальсифицируемости в фундаментальной физике: как генерация теорий обгоняет эксперимент
Разбираем, почему в фундаментальной физике теории размножаются быстрее, чем появляются данные, как ИИ усиливает этот дисбаланс и что такое эмпирический контракт