Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

4165 MTPLX: ускорение инференса на Apple Silicon в 2.24 раза — обзор нового MTP-движка Разбор MTPLX — нативного MTP-движка для Apple Silicon, который ускоряет инференс в 2.24 раза. Бенчмарки, сравнение с llama.cpp и mlx-lm, примеры запуска на M5 M 5 мин чтения 4166 FastDMS: как сжать KV-cache в 6 раз и ускорить инференс — обзор открытой реализации и бенчмарков Разбор открытой реализации Dynamic Memory Sparsification (FastDMS): сжатие KV-cache в 6 раз, ускорение инференса на 30% против vLLM. Примеры, бенчмарки, сравнен 3 мин чтения 4167 Как использовать Webhooks в Gemini API: пример на Python и настройка Полный гайд по настройке webhooks в Gemini API. Пример кода на Python, верификация подписей, идемпотентность, сравнение с polling. Работает с Gemini 3. 6 мин чтения 4168 V100 32GB vs RTX 5060 Ti/5070 Ti: реальный опыт сборки homelab AI на старом железе Сравниваем Tesla V100 32GB и RTX 5060 Ti/5070 Ti для домашнего AI: цена, VRAM, производительность, нюансы сборки и реальные бенчмарки LLM. 8 мин чтения 4169 LLM-пентест 2026: OWASP Top 10, новые атаки и практический playbook Разбор OWASP LLM Top 10 2025: System Prompt Leakage, Vector Weaknesses, RAG-poisoning. Готовый playbook для тестирования безопасности LLM с примерами атак и защ 10 мин чтения 4170 Пять механизмов памяти Claude Code: как управлять контекстом и не терять данные Полный разбор пяти механизмов памяти Claude Code: CLAUDE.md, ~/.claude/memory/, команды /memory, сжатие контекста, внешние файлы. Как не потерять данные в длите 9 мин чтения 4171 Как построить эффективную базу знаний для AI-моделей: пошаговое руководство с примерами 6 шагов к идеальной базе знаний для RAG: от сбора данных до мониторинга. Примеры, код, типичные ошибки. Актуально на 2026 год. 7 мин чтения 4172 APEX MoE квантизация: 30+ моделей с ускорением до 33% и новый ультра-сжатый I-Nano уровень Обзор APEX — MoE-aware mixed-precision квантизация. Ускорение до 33%, поддержка 30+ моделей, ультра-сжатый уровень I-Nano. Сравнение с аналогами, тесты скорости 6 мин чтения 4173 AI-агент для код-ревью: как мы строили на LangGraph и что пошло не так Реальный опыт построения AI-агента для автоматического код-ревью с LangGraph и GPT-4. Разбираем архитектуру, ошибки и решения. Практические советы и примеры код 6 мин чтения 4174 Ошибки в пайплайне FLUX-LoRA: как ablation на 75 картинках выявил leak и коллапс Разбор типичных проблем при обучении LoRA на FLUX.2: training-set leakage, коллапс при scale 2.0 и как single-pass спас пайплайн. Эксперименты, код и советы. 6 мин чтения 4175 DGX Spark + M3 Ultra: собираем распределённый инференс с разделением prefill/decode на llama.cpp Эксперимент: разъединяем prefill и decode между DGX Spark и M3 Ultra на llama.cpp. Результаты, команды, узкие места — для тех, кто хочет выжать максимум из гете 8 мин чтения 4176 Проклятие длинного контекста: как и почему AI-агенты деградируют на длинных сессиях Разбираем три главные причины деградации AI-агентов на длинных сессиях: цепочка рассуждений, размывание внимания и смещение alignment. Решения из практики инжен 4 мин чтения