Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5424 материалов
01 GEO-оптимизация контента: что это и почему «ничего не делать» - рабочая стратегия GEO-оптимизация - это попытка влиять на то, как ChatGPT, Perplexity, Gemini и Claude описывают ваш бренд. Разбираем цифры Forrester и The ABM Agency о генератив 9 мин чтения 02 Локальные LLM для 3D-моделирования: насколько домашние модели отстают от облачных на примере RTX 5090 Пользователь с RTX 5090 сравнил локальные Qwen 3.8 и Qwen Flash с облачной Opus 5.5 в 3D-моделировании и получил неутешительный результат. Разбираем, почему мощ 7 мин чтения 03 AgrillaMoE: как запустить Qwen3.6-35B-A3B на 16 ГБ VRAM и ускорить вывод через MoE-экспансию Разбираем форк AgrillaMoE для Qwen3.6-35B-A3B: запуск на 16 ГБ VRAM с квантом UD-Q2_K_XL, флаг --moe-experts 20 с адаптивным порогом и MoE-экспансия, которая по 8 мин чтения 04 Interpretable Context Methodology: как заменить оркестрацию AI-агентов структурой директорий Разбираем Interpretable Context Methodology: как заменить CrewAI, LangChain и AutoGen структурой директорий, markdown-промптами и локальными скриптами. Что подх 8 мин чтения 05 Apex-2: как энтузиаст обучил MoE-модель на 3,87B параметров с нуля на 86,5 млрд токенов Энтузиаст обучил MoE-модель Apex-2 на 3,87B параметров (1,45B активных) полностью с нуля на 86,5 млрд токенов и одном GH200. Разбираем архитектуру, бенчмарки, ч 9 мин чтения 06 Форк Strata для IBM AC922: как выжать 7 357 ток/с prefill и 113 ток/с decode из POWER9 и V100 Автор форкнул движок Strata и разогнал инференс на сервере IBM AC922 с POWER9 и четырьмя Tesla V100: prefill вырос с 130 до 7350 ток/с, decode с 15 до 113 ток/с 7 мин чтения 07 Abliterated Qwen3.6-35B на двух RTX 4060 Ti: реальность, компромиссы и риски Разбираем, реально ли поднять abliterated-версию Qwen3.6-35B на двух RTX 4060 Ti: считаем требования к VRAM, выбираем между Q4_K_M и Q5_K_M, оцениваем скорость 9 мин чтения 08 LFM2.5 2.6B против MiniCPM5 2B: сравнение малых моделей для агентных задач на M1 Air На MacBook Air M1 модель LFM2.5 2.6B обошла MiniCPM5 2B по скорости (200 против 162 t/s на prefill) и по расходу памяти (около 2,5 против 3,8 ГБ при контексте 3 8 мин чтения 09 Запуск Qwen3.5 на FPGA: 9B и 27B INT4 на дешёвых платах с eBay - реальные цифры и компромиссы Две FPGA-платы SQRL FK33 за $280 запускают Qwen3.5-9B INT4: около 6 tok/s на prefill и 3,2 tok/s на генерации при 75 МГц. Разбираем измеренные цифры, расчётные 8 мин чтения 10 Тест 15 локальных моделей для агентов и tool-use: почему Bonsai 27B оказалась последней Автор прогнал 15 локальных моделей через бенчмарк Toolery: 143 сценария, по 3 прогона каждый, 429 прогонов на модель. qwen3.8-27b заняла первое место с 71.8%, о 7 мин чтения 11 repOx: как Rust-инструмент упаковывает репозиторий в промпт без лишних токенов repOx собирает репозиторий в один промпт для LLM: по умолчанию вырезает lock-файлы, бинарники и артефакты сборки по эвристике Git, показывает расход токенов и р 6 мин чтения 12 Локальный файнтюн AliceAI-80B-A3B на трёх V100: итоги первого SFT-раунда и планы Первый раунд SFT для AliceAI-80B-A3B на 5 млн токенов завершён: модель освоила CoT и диалог, но осталась недообучена. Чекпойнт #1 не публикуют, готовится второй 6 мин чтения