Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

3661 Как построить трекинг посетителей на fisheye-камерах: от детекции до бизнес-событий Пошаговый гайд по видеоаналитике для магазинов самообслуживания: калибровка fisheye, детекция YOLO, трекинг SORT, бизнес-события. Код, грабли, инсайты. 8 мин чтения 3662 Shard: 10× сжатие KV-кэша для Llama 3.1 8B без потери качества — обзор метода и применения Разбираем метод Shard: сжатие KV-кэша в 10 раз с PCA и int4 для Llama 3.1 8B. Сравнение с Delta-KV, TurboQuant, Binary KV cache. Примеры использования в Hugging 4 мин чтения 3663 Как выбрать RAM для сервера локального инференса: 128 ГБ 3200 МГц vs 256 ГБ 2133 МГц для dual RTX 3090 и MoE моделей Гайд по выбору оперативной памяти для сервера инференса: баланс частоты и объёма для MoE моделей, EPYC 7642 и двух RTX 3090. Практические тесты и рекомендации. 9 мин чтения 3664 AI-агент, который не спит: почта, Telegram, systemd и LLM под одной крышей Собираем полностью автономного AI-агента на локальном сервере: LLM, почта, Telegram, systemd и долговременная память. Подробное руководство с кодом и без облачн 12 мин чтения 3665 От RAG-прототипа к продакшен-агенту: пошаговый разбор кейса с метриками и принятием решений Реальный кейс эволюции RAG-прототипа в продакшен-агента для поддержки 1С УНФ. Метрики, архитектура, цена ошибки и 5 этапов перехода с нуля до production. 6 мин чтения 3666 KV Cache Calculator: считаем память для LLM и не даем GPU захлебнуться Онлайн-инструмент для расчета памяти KV cache под любую LLM. Сравнение с аналогами, примеры для Llama 3, Qwen, Mistral. Узнайте, сколько VRAM нужно для вашего к 6 мин чтения 3667 Спарисификация внимания за 100 шагов: как превратить тяжеловесную LLM в скоростной разреженный движок без потери качества Новый метод преобразования full-attention моделей в разреженные за 100 шагов дообучения. Решение проблемы квадратичной стоимости внимания для long-context LLM. 5 мин чтения 3668 Как создать ИИ-агента, который сам собирает других агентов: опыт MWS AI и мета-агент Разбираем архитектуру мета-агента на платформе MWS AI. Пошаговый гайд, как с помощью визуального конструктора и текстового интерфейса заставить ИИ собирать подч 6 мин чтения 3669 Heretic: инструмент для снятия guardrails с Llama 3.3 – как это работает и чем грозит Инструмент Heretic вырезает цензуру из Llama 3.3 за минуты. Разбираем механизм, опасность и позицию Financial Times. Что будет с безопасностью ИИ? 5 мин чтения 3670 Как использовать подписку ChatGPT/Claude в Cursor без оплаты за API: пошаговая инструкция с Cloudflare tunnel Экономьте на API, используя уже оплаченные подписки ChatGPT или Claude в Cursor. Настройка прокси через Cloudflare Tunnel — пошаговая инструкция для разработчик 7 мин чтения 3671 RAG для документации разработчика: как научить локальную LLM понимать новые библиотеки Python Пошаговое руководство: как поднять локальный RAG пайплайн с Ollama, ChromaDB и эмбеддингами, чтобы LLM знала последние версии pandas, fastapi, httpx. 7 мин чтения 3672 Grok 0.5T: Илон Маск замахнулся на полтриллиона параметров. Что это значит? Илон Маск анонсировал Grok 0.5T — следующую генерацию модели с 0.5 триллиона параметров. Разбираем, что известно о сроках, архитектуре и последствиях для сообще 3 мин чтения