Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
7069
CIM: Когда ИИ перестает гадать и начинает думать причинно-следственными связями
Разбираем архитектуру CIM — систему причинно-следственного мышления на графах и векторах. Как работает Reasoning-as-a-Service в 2026 году.
7070
onWatch: Go-бинарник, который следит за квотами Anthropic, Synthetic и Z.ai, пока вы спите
Обзор open-source инструмента onWatch для мониторинга квот API Anthropic, Synthetic Minds и Z.ai. Go-бинарник, SQLite, локальное хранение.
7071
Тот самый баг в гибридном поиске, который все игнорируют: как Log-Odds Conjunction убивает ваши RAG-системы
Глубокий разбор фундаментальной ошибки гибридного поиска в RAG. Практическое исправление Conjunction Shrinkage через Bayesian BM25 с логарифмическими шансами.
7072
Jan-v3 4B в формате MNN: рекордная скорость на смартфоне и как использовать
Обзор Jan-v3 4B в формате MNN для Android: 40 токенов/сек на Galaxy S24, установка, сравнение с GGUF и реальные сценарии использования.
7073
Как настроить LoRA для Qwen3-VL 2B: оптимальные параметры для слабого GPU
Пошаговый гайд по настройке LoRA для Qwen3-VL 2B на GPU с 8-12 ГБ VRAM. Оптимальные параметры, команды, ошибки и экономия памяти.
7074
Unsloth + Q4 квантование: как заставить 30B модель работать на 8 ГБ VRAM с оффлоадингом в RAM
Пошаговая инструкция по тонкой настройке больших языковых моделей с Unsloth, Q4 квантованием и оффлоадингом в RAM. Работаем с 30B моделями на 8 ГБ VRAM.
7075
Почему LLM ломают JSON-парсеры: бенчмарк 672 вызовов и как это исправить
Реальный тест 8 моделей на 672 вызовах показал: 67% ответов ломают JSON-парсеры. Сравнение GPT-4o, Claude 3.7 Sonnet, Mistral Large 2, Llama 3.3 и других. Практ
7076
Recursive Session Forking в Dropstone: как сериализовать цепочки рассуждений для совместной работы
Как Dropstone v3.0.5 решает проблему дрейфа контекста через сериализацию цепочек рассуждений для локальных coding-агентов. Практический обзор новой архитектуры.
7077
Локальные LLM в работе: реальные кейсы, которые меняют всё
Лучшие практики применения локальных LLM от разработчиков: кодинг, анализ данных, автоматизация. Полный гайд с примерами для Ollama, LM Studio.
7078
Q4_K_M квантование: золотая середина или компромисс без выбора?
Полный разбор Q4_K_M квантования: что это такое, как влияет на качество ответов AI-моделей, сравнение с Q8_0 и Q2_K, практические рекомендации по выбору формата
7079
AI OS: Собираем свою операционную систему для ИИ на FastAPI и Ollama
Разбираем open-source проект AI OS: FastAPI бэкенд, React фронтенд, Ollama для локальных моделей. Полный стек для приватного AI-ассистента.
7080
Две карты, одна скорость: почему ваша LLM на двух GPU работает как на одной и как это исправить
Разбираем проблему неравномерной загрузки GPU в LM Studio и vLLM. Пошаговый гайд по диагностике, настройке tensor parallelism и оптимизации скорости генерации t