Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5424 материалов
01 Креативность LLM-агентов: как измерить новизну и почему агенты проигрывают людям в ML-задачах Разбор исследования COLM 2026 о креативности LLM-агентов: как разложить новизну на P- и H-креативность, зачем измерять impact и feasibility и почему оригинальны 11 мин чтения 02 Локальные Qwen против Claude Opus 4.6: 92,7 против 92,7 на трёх задачах по Python Локальный Qwen3.8-Flash-Next «Coder» из Strata набрал 92,7 балла и сравнялся с Claude Opus 4.6 на трёх задачах по Python, а Qwen 3.8 27B в Unsloth Q6 отстал с 8 9 мин чтения 03 Kyojin и EXL3: как запустить 300B MoE-модели на одном 128 ГБ мини-ПК Strix Halo Yamz Labs собрала движок Kyojin на ExLlamaV3 и упаковала две MoE-модели класса 300B так, что каждая работает на одном Strix Halo со 128 ГБ: до 650 tok/s на преф 8 мин чтения 04 Навязчивое продвижение Strata в AI-сообществах: как отличить хайп от реальной пользы Разбираем инцидент с навязчивым продвижением Strata в AI-сабреддите: признаки агрессивного маркетинга, влияние на дискуссии и практические способы отличить реал 7 мин чтения 05 Что запускать на 8 ГБ VRAM и 16 ГБ RAM: опыт с Gemma 26B QAT и ожидания от Qwen4 35B A3B На 8 ГБ VRAM и 16 ГБ RAM стабильно идут модели 7-8B в Q4, а Gemma 26B QAT тянет только с выгрузкой слоёв в RAM: автор поста в r/LocalLLaMA получает около 26 ток 8 мин чтения 06 От одного агента к AI-холдингу: как масштабировать автономные AI-системы Один агент упирается в смешение ролей: разбираем путь к инженерной AI-фабрике, AI-организации и AI-холдингу. Какие механизмы контроля держат систему управляемой 11 мин чтения 07 Sopro V2 Turbo 2610: что изменилось в лёгкой TTS-модели для клонирования голоса на CPU Sopro V2 Turbo 2610 - промежуточное обновление открытой TTS-модели: те же 120M параметров и около 300 мс до первого аудио на CPU, но меньше шероховатости на про 8 мин чтения 08 Узкоспециализированные inference-движки: зачем нужны overfit-рантаймы для локальных LLM Разбираем, чем узкие overfit-рантаймы (Strata, ninfer, DwarfStar, Splash, llamAmpere, gufo) отличаются от llama.cpp и vLLM, какие компромиссы несут и когда тако 7 мин чтения 09 Ninfer 4080: как запустить Qwen 3.8 27B на 16 ГБ VRAM с контекстом 100K Ninfer 4080 - инференс-движок под RTX 4080, который запускает ISTA-DASLab-Qwen-3.8-27B-GSQ с контекстом 100K токенов. Разбираем замеры prefill и генерации, режи 11 мин чтения 10 AI Overviews в Google на русских запросах: как попасть в обзор, не будучи в топе AI Overviews на русских запросах появляются над выдачей в 93% случаев, и место в топ-10 для попадания не обязательно. Разбираем механику query fan-out, требован 7 мин чтения 11 repopedia: локальный граф кода с MIT-лицензией и MCP-сервером для AI-агентов repopedia строит граф кода локально в файле SQLite: парсинг через tree-sitter, MIT-лицензия, без облака, Docker и API-ключей. Разбираем MCP-сервер для AI-агенто 8 мин чтения 12 Старое майнинговое железо для локальных LLM: опыт запуска Flash Next на трёх RTX 3060 12GB Разбираем кейс запуска Flash Next через Strata на трёх RTX 3060 12GB: 38-40 токенов в секунду против 13,2 т/с у llama.cpp, состав сборки на майнинговой платформ 11 мин чтения