Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
8617
Как запустить контекст >128k на 2x RTX 3090: сравнение методов (vLLM, EGPU, RPC, ik_llama)
Полный гайд по запуску длинного контекста на двух RTX 3090. Сравнение методов vLLM, EGPU, RPC и ik_llama с инструкциями и бенчмарками.
8618
DOM-пранинг: как заставить браузерного агента видеть структуру, а не пиксели
Замена скриншотов на структурированные DOM-снимки для локальных агентов. Практический гайд с кодом для Qwen 2.5 3B.
8619
Фреймворки для оркестрации AI-агентов: какой выбрать и почему все они раздражают
Полный обзор и сравнение фреймворков для оркестрации AI-агентов. LangGraph vs CrewAI vs AutoGen: что выбрать для production в 2025 году.
8620
Pathway + Ollama + Llama 2.5: локальный детектор логических дыр в текстах на 100 тысяч слов
Гайд по сборке полностью локальной системы для анализа консистентности в длинных документах с помощью Pathway, Ollama и Llama 2.5 7B.
8621
Discord-бот с мозгами на Raspberry Pi: как запустить LLM на 4 ГБ RAM и не сойти с ума
Подробный гайд по выбору моделей и квантований для Discord-бота с локальной LLM. Ollama, TinyLlama, Phi-2 на слабом железе. Готовый код на Node.js.
8622
Jailbreak SAFi агента: анализ уязвимостей и техник prompt injection на реальном кейсе
Разбор реального jailbreak-челленджа SAFi агента. Анализ уязвимостей, техник prompt injection и answer-in-refusal leak. Как защитить ИИ-агентов.
8623
OpenAgent: контрольная панель для локальных AI-агентов, которая наконец-то изолирует их друг от друга
Обзор OpenAgent — open-source control plane для оркестрации локальных AI-агентов с изоляцией через systemd-nspawn и Git для конфигов.
8624
Temple Bridge: ваш личный офлайн-ассистент на Apple Silicon, который не забывает ничего
Полный гайд по настройке офлайн-ассистента с памятью и доступом к файлам на базе Hermes-3 и MLX для Mac. Приватность без облаков.
8625
Data Poisoning: когда ваши тренировочные данные внезапно становятся оружием против вас
Как обнаружить и защититься от data poisoning атак на тренировочные данные. Практическое руководство с примерами, методами защиты и реальными кейсами взлома ML
8626
Adaptive-K Routing: практический гайд по экономии 30-52% ресурсов на MoE-моделях (Mixtral, Qwen, OLMoE)
Как Adaptive-K Routing экономит 30-52% вычислений на MoE-моделях. Практическое руководство по установке, настройке и использованию с TensorRT-LLM.
8627
С нуля на PyTorch: собираем свою GPT по учебнику Рашки. Почему это сложнее, чем кажется
Пошаговая реализация GPT на PyTorch по книге Sebastian Raschka: токенизатор, трансформер-блоки, MultiHeadAttention, маскирование и авторегрессионное обучение.
8628
Когда LLM врет: отлавливаем галлюцинации линейкой в векторном пространстве
Практическое руководство: как находить ложь в ответах LLM через анализ геометрии эмбеддингов. Без дополнительных моделей, только векторы и математика.