Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

5053 Практическое руководство: как оценивать локальную LLM после DPO-тюнинга (на примере психотерапевтического датасета) Подробный гайд по оценке локальных LLM после DPO-тюнинга. Шаг за шагом: от тестового датасета до экспертной проверки. Актуальные инструменты и методология на ма 8 мин чтения 5054 TypeWhisper 1.0: Когда приватная диктовка обрела модульность Полный обзор TypeWhisper 1.0: модульное приложение для диктовки с поддержкой WhisperKit, Parakeet, Qwen3 и LLM-постобработкой. Работает локально на macOS. 6 мин чтения 5055 Chatterbox Turbo на VLLM: как добиться 37.6x ускорения генерации речи на RTX 4090 Портирование TTS-модели Chatterbox Turbo на vLLM дает ускорение в 37.6 раз на RTX 4090. Бенчмарки, настройка и примеры для реального синтеза речи. 5 мин чтения 5056 Сравнение 9 LLM в AIfred Intelligence: производительность и качество в multi-agent дебатах Тестируем 9 больших языковых моделей (80B-235B) в AIfred Intelligence на Tesla P40 и RTX 8000. Сравнение скорости, квантования Q4_K_M и качества в Tribunal mode 7 мин чтения 5057 MCP memory server на Rust: когда граф знаний встречает нейроны в хранилище Гибридный поиск на Rust, граф знаний и нейропластичность памяти для AI агентов. Сравнение с Python, тесты производительности и примеры использования. 6 мин чтения 5058 Как запустить локальный GraphRAG без GPU: пошаговый гайд с Llama 3.1, Neo4j и LangChain Полный пайплайн GraphRAG на локальной машине без видеокарты. Устанавливаем квантованную Llama 3.1, Neo4j и LangChain для извлечения графа знаний из документов. 8 мин чтения 5059 MuninnDB: как настроить Dream Engine для консолидации памяти LLM с изоляцией данных Ollama Полное руководство по настройке MuninnDB Dream Engine для консолидации памяти LLM с изоляцией данных через Ollama vault. Актуально на 2026 год. 4 мин чтения 5060 Крошечные модели против коллайдера: как CERN «сжигает» ИИ в кремний с помощью HLS4ML Против тренда: CERN использует HLS4ML, чтобы «впечатывать» в FPGA крошечные нейросети для фильтрации данных БАК за наносекунды. Контрархитектура в мире больших 5 мин чтения 5061 TideSurf: как сжать DOM в 30 раз для веб-агентов и ускорить TTFT в 12 раз на Qwen 3.5 9B (туториал по npm-пакету) TideSurf сокращает токены DOM на 30x и ускоряет время до первого токена в 12 раз для веб-агентов на Qwen 3.5 9B. Гайд по установке и использованию npm @tidesurf 6 мин чтения 5062 Сборка корпоративного ИИ-сервера за $15 000: выбор GPU, моделей (Qwen 122B) и конфигурации для RAG, OCR и анализа данных Полное руководство по сборке локального ИИ-сервера для бизнеса. Выбор между RTX Pro 6000 и двумя GPU, настройка Qwen 3.5 122B, RAG, OCR. Аппаратная конфигурация 7 мин чтения 5063 RAG на практике: пошаговый туториал по созданию умного поиска по документам с LangChain и ChromaDB Пошаговое руководство по созданию RAG-системы для поиска по документам. Установка, загрузка файлов, векторизация, семантический поиск с актуальными инструментам 9 мин чтения 5064 Как запустить LLM на портативной консоли: SpruceChat для Miyoo и Trimui Пошаговая инструкция по установке SpruceChat и запуску локального ИИ на портативных консолях Miyoo A30 и Trimui Smart Pro в 2026 году. 4 мин чтения