Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

157 Apex-2: как энтузиаст обучил MoE-модель на 3,87B параметров с нуля на 86,5 млрд токенов Энтузиаст обучил MoE-модель Apex-2 на 3,87B параметров (1,45B активных) полностью с нуля на 86,5 млрд токенов и одном GH200. Разбираем архитектуру, бенчмарки, ч 9 мин чтения 158 Форк Strata для IBM AC922: как выжать 7 357 ток/с prefill и 113 ток/с decode из POWER9 и V100 Автор форкнул движок Strata и разогнал инференс на сервере IBM AC922 с POWER9 и четырьмя Tesla V100: prefill вырос с 130 до 7350 ток/с, decode с 15 до 113 ток/с 7 мин чтения 159 Abliterated Qwen3.6-35B на двух RTX 4060 Ti: реальность, компромиссы и риски Разбираем, реально ли поднять abliterated-версию Qwen3.6-35B на двух RTX 4060 Ti: считаем требования к VRAM, выбираем между Q4_K_M и Q5_K_M, оцениваем скорость 9 мин чтения 160 LFM2.5 2.6B против MiniCPM5 2B: сравнение малых моделей для агентных задач на M1 Air На MacBook Air M1 модель LFM2.5 2.6B обошла MiniCPM5 2B по скорости (200 против 162 t/s на prefill) и по расходу памяти (около 2,5 против 3,8 ГБ при контексте 3 8 мин чтения 161 Запуск Qwen3.5 на FPGA: 9B и 27B INT4 на дешёвых платах с eBay - реальные цифры и компромиссы Две FPGA-платы SQRL FK33 за $280 запускают Qwen3.5-9B INT4: около 6 tok/s на prefill и 3,2 tok/s на генерации при 75 МГц. Разбираем измеренные цифры, расчётные 8 мин чтения 162 Бенчмаркинг моделей принятия решений: что известно о сравнении Clef Q8 и Jev На Reddit сравнили две модели принятия решений, Clef Q8 и Jev, но методологии, набора задач и метрик в публикации нет. Разбираем, что такое decision-модели, зач 9 мин чтения 163 Тест 15 локальных моделей для агентов и tool-use: почему Bonsai 27B оказалась последней Автор прогнал 15 локальных моделей через бенчмарк Toolery: 143 сценария, по 3 прогона каждый, 429 прогонов на модель. qwen3.8-27b заняла первое место с 71.8%, о 7 мин чтения 164 repOx: как Rust-инструмент упаковывает репозиторий в промпт без лишних токенов repOx собирает репозиторий в один промпт для LLM: по умолчанию вырезает lock-файлы, бинарники и артефакты сборки по эвристике Git, показывает расход токенов и р 6 мин чтения 165 Локальный файнтюн AliceAI-80B-A3B на трёх V100: итоги первого SFT-раунда и планы Первый раунд SFT для AliceAI-80B-A3B на 5 млн токенов завершён: модель освоила CoT и диалог, но осталась недообучена. Чекпойнт #1 не публикуют, готовится второй 6 мин чтения 166 Дефицит памяти в 2027–2028: что значит заявление главы Micron для сборщиков AI-систем Глава Micron предупредил, что в 2027 и 2028 годах поставки памяти будут заметно жестче, чем в 2026-м. Разбираем, что именно сказано, чего в заявлении нет, как э 8 мин чтения 167 LLM Inference Dashboard: локальный дашборд для мониторинга нескольких движков инференса Разбираем концепт локального дашборда для мониторинга инференса LLM: расширенные логи и метрики, поддержка llama, strata, unsloth и LMS, коллектор для сетевых A 7 мин чтения 168 Креативность LLM-агентов: как измерить новизну и почему агенты проигрывают людям в ML-задачах Разбор исследования COLM 2026 о креативности LLM-агентов: как разложить новизну на P- и H-креативность, зачем измерять impact и feasibility и почему оригинальны 11 мин чтения