Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
3253
Прокачай свой AI-бэкенд: пишем LLM-роутер на NestJS, который выживет при любой аварии у провайдера
Пошаговый гайд по созданию отказоустойчивого LLM-роутера на NestJS. Код, стратегии роутинга, fallback, обработка ошибок. Экономьте до 50% на API.
3254
Оптимизация LLM-запросов с помощью контекстного профилировщика: снижаем расход токенов
Практическое руководство по использованию контекстного профилировщика для сокращения расхода токенов в LLM. Анализ, настройка, примеры и типичные ошибки.
3255
Open Dungeon: локальный ролеплей с Gemma 4 QAT и встроенной генерацией изображений на 8 ГБ ОЗУ
Запустите свою RPG без интернета: Gemma 4 QAT, 256K контекст, генерация FLUX-изображений на 8 ГБ ОЗУ. Полный обзор и гайд.
3256
Реальные vs теоретические метрики LLM на on-premise: как мы считали ресурсы для GPT-OSS-120B на RTX Pro 6000 и почему калькуляторы врут в 5 раз
Почему онлайн-калькуляторы для расчета ресурсов LLM врут в 5 раз? Тестируем GPT-OSS-120B на RTX Pro 6000 Blackwell: реальные показатели VRAM, latency, throughpu
3257
Browser-use агент в WASM: как запустить браузерную автоматизацию бесплатно и без сервера
Обзор browser-use агента в WebAssembly: нулевая стоимость, работа в браузере, примеры кода, сравнение с альтернативами. Идеально для AI-агентов и автоматизации.
3258
EAGLE3 в llama.cpp: ускоряем инференс языковых моделей с помощью speculative decoding до 5x
Как EAGLE3 в llama.cpp ускоряет локальный инференс моделей в 5 раз. Тесты на RTX 3090, сравнение с AETHER-X и ngram. Инструкция по запуску.
3259
Дистилляция Wan 2.2: как модель Varya от Avataar AI генерирует видео в 10 раз быстрее и дешевле
Разбираем технику дистилляции Wan 2.2, которая позволила генерировать видео за 45 секунд на H200 по $0,005/сек. Сравнение с Sora и Kling, примеры для локального
3260
MTPLX V1: Swift-ускоритель для Qwen 3.6 27B — 2x TPS без танцев с бубном
Обзор MTPLX V1 — нативного Swift-приложения для запуска MLX MTP-моделей на Apple Silicon. Двойной TPS на Qwen 3.6 27B, сравнение с LM Studio и llama.cpp.
3261
Динамическое извлечение данных из документов с помощью Amazon Bedrock: on-demand и batch пайплайны
Гайд по Amazon Bedrock для извлечения данных из документов: on-demand и batch пайплайны, динамический выбор модели, оптимизация промптов. Актуально на июнь 2026
3262
OntoIndex: строим граф кода для ИИ-агентов с MCP и веб-интерфейсом
Обзор OntoIndex — инструмента для построения семантического графа кода. Сравнение с альтернативами, примеры использования, настройка MCP-сервера и веб-интерфейс
3263
Когда утилизация GPU обманчива: скрытые проблемы подсистемы хранения, замедляющие AI-инференс
Высокая утилизация GPU не гарантирует скорость инференса. Разбираем, как деградация RAID, неоптимальная архитектура хранилища и ошибки мониторинга крадут деньги
3264
Тест моделей LLM: Qwen3-235B остаётся лучшей по цене/качеству спустя год — подробности батча
Провёл собственный батч-тест четырёх LLM: Qwen3-235B, DeepSeek V4 Flash, Gemma 4, MiniMax. Результаты: Qwen3-235B держит лидерство спустя год. Разбор методики,