Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
5641
GATED_DELTA_NET в llama.cpp: как новая опция Vulkan разгоняет Qwen до 30%
Обзор новой функции GATED_DELTA_NET в llama.cpp для Vulkan. Установка, бенчмарки и прирост скорости до 30% для моделей Qwen на видеокартах AMD. Актуально на мар
5642
Архитектура AI-фабрики: как собрать команду из 9 агентов на open-source моделях с одной видеокартой — конфиги, модели, бенчмарки
Практический гайд: собираем команду из 9 AI-агентов на open-source моделях с одной RTX 4090. Конкретные модели для каждой роли, настройки VRAM, бенчмарки HumanE
5643
Новые CloudWatch метрики TimeToFirstToken и EstimatedTPMQuotaUsage для Amazon Bedrock: настройка алертов и управление квотами
Обзор новых метрик TimeToFirstToken и EstimatedTPMQuotaUsage в Amazon Bedrock. Как настроить алерты в CloudWatch и избежать троттлинга. Актуально на март 2026.
5644
SLAY-ASR: практическое руководство по добавлению аудиомодальности в LLM с минимальными затратами (рецепт на полгода)
Пошаговое руководство по кодированию аудио в латентные представления для LLM. Альтернатива Whisper, кросс-аттеншн, практические советы на 2026 год.
5645
Ловушка Langfuse: как SDK по умолчанию перехватывает чужие трейсы и накручивает счёт — инструкция по отключению
Подробное руководство по отключению скрытого перехвата всех трейсов в Langfuse SDK. Узнайте, как избежать неожиданных расходов и настроить фильтрацию.
5646
Правда о скорости MLX на Mac: почему бенчмарки в UI врут и как измерить реальную производительность
Разоблачаем мифы о производительности MLX. Как измерить реальные tokens/s на Apple Silicon. Сравнение prefill и generation time на M1 Max и M5.
5647
MTIA v4: как Meta перехватывает инициативу у Nvidia в инференсе больших моделей
Разбор новейшего чипа MTIA v4 от Meta: чиплетная архитектура с HBM3e, поддержка 8-битного инференса в PyTorch 2.4 и плагин для vLLM. Сравнение с Nvidia H200.
5648
EVR-1 Maano: революционное 3-битное сжатие для Llama 3.1 8B — практическое применение и сравнение с GGUF
Обзор EVR-1 Maano — метода 3-битного квантования для Llama 3.1 8B, который решает проблему дегенерации. Сравнение с GGUF, примеры использования и рекомендации н
5649
Автоматизируем аналитику без дашбордов: как построить MCP-сервер для вашего AI-агента
Практический гайд по созданию MCP-сервера для доступа AI-агента к данным аналитики. Автоматизируйте запросы к Mixpanel/GA4 без дашбордов. Работает с Claude, Cur
5650
Как настроить агентное кодирование на слабой видеокарте: практический гайд по Qwen3.5-9B
Полная инструкция по запуску Qwen3.5-9B для автономного кодирования на RTX 3060 12GB. Квантование через Unsloth, настройка tool calls и оптимизация памяти.
5651
Nemotron-3 120B на RTX Pro 6000 Blackwell: полный бенчмарк скорости при длинном контексте до 512K
Тест производительности флагманской модели NVIDIA на новейшем GPU Blackwell. Цифры по TTFT, многопользовательской нагрузке и fp8 KV cache для контекста в 512 ты
5652
Как дообучить NVIDIA Nemotron Speech ASR на Amazon EC2: полный гайд по адаптации под домен
Пошаговое руководство по тонкой настройке NVIDIA Nemotron Speech ASR на Amazon EC2 p4d с DeepSpeed. Адаптация модели под доменные данные.