Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

169 Локальные Qwen против Claude Opus 4.6: 92,7 против 92,7 на трёх задачах по Python Локальный Qwen3.8-Flash-Next «Coder» из Strata набрал 92,7 балла и сравнялся с Claude Opus 4.6 на трёх задачах по Python, а Qwen 3.8 27B в Unsloth Q6 отстал с 8 9 мин чтения 170 Kyojin и EXL3: как запустить 300B MoE-модели на одном 128 ГБ мини-ПК Strix Halo Yamz Labs собрала движок Kyojin на ExLlamaV3 и упаковала две MoE-модели класса 300B так, что каждая работает на одном Strix Halo со 128 ГБ: до 650 tok/s на преф 8 мин чтения 171 Навязчивое продвижение Strata в AI-сообществах: как отличить хайп от реальной пользы Разбираем инцидент с навязчивым продвижением Strata в AI-сабреддите: признаки агрессивного маркетинга, влияние на дискуссии и практические способы отличить реал 7 мин чтения 172 Что запускать на 8 ГБ VRAM и 16 ГБ RAM: опыт с Gemma 26B QAT и ожидания от Qwen4 35B A3B На 8 ГБ VRAM и 16 ГБ RAM стабильно идут модели 7-8B в Q4, а Gemma 26B QAT тянет только с выгрузкой слоёв в RAM: автор поста в r/LocalLLaMA получает около 26 ток 8 мин чтения 173 LLM-агенты играют в World of Warcraft: как устроен браузерный клиент и MCP-обвязка Автор развернул приватный сервер World of Warcraft, создал браузерный клиент и MCP-обвязку, которая управляет игрой через WebSocket. Разбираем архитектуру связк 6 мин чтения 174 Сотрудник по безопасности ушёл из OpenAI: что стоит за словами «культура сломана» и почему это касается всех, кто работает с AI Дэвид Робинсон три с половиной года готовил отчёты по безопасности к крупным релизам OpenAI, а теперь ушёл и назвал культуру компании «сломанной». Разбираем его 7 мин чтения 175 От одного агента к AI-холдингу: как масштабировать автономные AI-системы Один агент упирается в смешение ролей: разбираем путь к инженерной AI-фабрике, AI-организации и AI-холдингу. Какие механизмы контроля держат систему управляемой 11 мин чтения 176 Sopro V2 Turbo 2610: что изменилось в лёгкой TTS-модели для клонирования голоса на CPU Sopro V2 Turbo 2610 - промежуточное обновление открытой TTS-модели: те же 120M параметров и около 300 мс до первого аудио на CPU, но меньше шероховатости на про 8 мин чтения 177 Узкоспециализированные inference-движки: зачем нужны overfit-рантаймы для локальных LLM Разбираем, чем узкие overfit-рантаймы (Strata, ninfer, DwarfStar, Splash, llamAmpere, gufo) отличаются от llama.cpp и vLLM, какие компромиссы несут и когда тако 7 мин чтения 178 Amazon отказалась от NDA при строительстве дата-центров: что стоит за заявлением AWS AWS прекратила использовать NDA с госорганами при согласовании дата-центров, заявил глава компании Мэтт Гарман. Разбираем четыре «мифа» из его блога, контраргум 6 мин чтения 179 Ninfer 4080: как запустить Qwen 3.8 27B на 16 ГБ VRAM с контекстом 100K Ninfer 4080 - инференс-движок под RTX 4080, который запускает ISTA-DASLab-Qwen-3.8-27B-GSQ с контекстом 100K токенов. Разбираем замеры prefill и генерации, режи 11 мин чтения 180 AI Overviews в Google на русских запросах: как попасть в обзор, не будучи в топе AI Overviews на русских запросах появляются над выдачей в 93% случаев, и место в топ-10 для попадания не обязательно. Разбираем механику query fan-out, требован 7 мин чтения