Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

3001 Автооценка вебинаров с LLM-судьей: конвейер на whisper.cpp и Claude Code за неделю Пошаговый гайд по созданию пайплайна автооценки вебинаров: транскрипция whisper.cpp, рубрики YAML, калибровка LLM-судьи под эксперта. Код, метрики, грабли. 9 мин чтения 3002 Capability-based тестирование LLM-агентов: единый набор тестов для нескольких ассистентов Научитесь тестировать несколько LLM-ассистентов одним набором тестов. Capability-based подход: проверяем способности, а не реализации. Open-source репозиторий и 6 мин чтения 3003 Локальный AI-переводчик с потоковым выводом: собираем open-source решение, которое не сливает данные Подробный обзор и пошаговая инструкция по созданию локального переводчика с потоковым выводом на базе open-source моделей. Защита данных, работа офлайн, сравнен 5 мин чтения 3004 Local LLM Inference Optimization: Полное руководство с командами и техниками Глубокое руководство по оптимизации локального инференса LLM: квантование, CPU offloading, vLLM, llama.cpp, speculative decoding. Актуальные команды и конфиги д 7 мин чтения 3005 Meta-Spider: новый фреймворк на мета-внимании для LLM и агентов — обзор и запуск через llama.cpp Подробный гайд по Meta-Spider — архитектуре meta-attention для агентов. Обзор моделей Qwen-3.5-4b и Granite 4.1 8B, пошаговый запуск через llama.cpp, нюансы и п 6 мин чтения 3006 Лучшие локальные модели text-to-image: тест 192 промптов и методология сравнения Сравнение локальных моделей генерации изображений: Stable Diffusion 3.5, Flux.1, PixArt-Σ, Kandinsky 3.1. Результаты тестирования 192 промптов, методология, плю 6 мин чтения 3007 NUMA Mirror в llama.cpp: как выжать максимум из многосокетных серверов без боли Разбор нового режима NUMA mirror в форке ik_llama.cpp: как он решает проблему межсокетного доступа к памяти и удваивает скорость инференса на серверных CPU. 7 мин чтения 3008 Обновление бенчмарка VLM: кто теперь король локального зрения? Сравнение лучших локальных VLM 2026: Gemma 4 Vision, Qwen3.5-VL, ZwZ-8B. Результаты бенчмарка, скорость, качество. Кого выбрать? 4 мин чтения 3009 Qwen 3.6 27B Abliterated: удаление безопасностных ограничений с минимальной потерей качества Инструмент Apostate для аблайтерации Qwen 3.6 27B: удаление safety alignment с потерей менее 1% качества. Сравнение с альтернативами, примеры запуска и рекоменд 4 мин чтения 3010 Tool Calling (Function Calling) в LLM: как AI-агенты решают, какое действие выполнить — полное руководство Разбираем механизм tool calling: как LLM выбирает нужное действие, вызывает API и обрабатывает результат. Пошаговый план, примеры кода, частые ошибки. 8 мин чтения 3011 Обучил 500M LLM и 330M генератор изображений с нуля: честный рассказ о том, что не пишут в блогах Разбор реального опыта: как энтузиаст с нуля обучил 500M языковую модель и 330M генератор изображений. Архитектура, данные, результаты, типичные ошибки. 5 мин чтения 3012 AI-агент написал код. Ты уверен, что он не уничтожит твою систему? Песочница: Docker, microVM или WASM Сравнение Docker, microVM и WASM для безопасного выполнения кода AI-агентов. Какой подход выбрать в 2026 году? Практические советы и подводные камни. 6 мин чтения