Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

3553 Бюджетный ИИ-сервер своими руками: сборка на 2× Tesla V100 32GB за 200 000 ₽ (бенчмарки 108 моделей) Пошаговое руководство по сборке дешевого локального сервера на двух Tesla V100 32GB. Цены, комплектуха, грабли, сравнение с облаком и реальные тесты 108 LLM. 9 мин чтения 3554 ИИ-агент внутри T-FLEX CAD: как заставить нейросеть не врать, а чертить Пошаговый гайд по встраиванию LLM в T-FLEX CAD через C#-генерацию, контур управления и самопроверку. Решаем проблему галлюцинаций и падений. Код и архитектура. 10 мин чтения 3555 Qdrant TurboQuant: сжимаем векторную память без потерь для production-поиска Разбор Qdrant TurboQuant — онлайн-квантование эмбеддингов без калибровки. Сравнение со скалярным и бинарным квантованием, примеры кода и эксперименты. 5 мин чтения 3556 Claude Opus 4.8: Fast Mode 2.5x, SWE-bench 69.2% и динамические воркфлоу — что изменилось Anthropic выпустила Claude Opus 4.8: Fast Mode 2.5x, SWE-bench 69.2%, динамические system messages и снижение цен на API. Разбираем, что реально изменилось для 5 мин чтения 3557 Fulloch V2: 100% локальный голосовой ассистент для Home Assistant и Obsidian на 16GB VRAM Обзор полностью локального голосового ассистента Fulloch V2 с открытым кодом. Работает на 16GB VRAM, интегрируется с Home Assistant и Obsidian. Примеры, сравнен 5 мин чтения 3558 Vidai Community: один Rust-бинар для контроля затрат, guardrails и multi-provider роутинга LLM-запросов Обзор Vidai Community — open-source Rust-инструмента, который объединяет multi-provider роутинг, guardrails и учёт затрат в одном бинарнике. Сравнение с LiteLLM 1 мин чтения 3559 Бесплатные API нейросетей для прототипов: обзор Groq и других сервисов с таблицами лимитов Полный разбор бесплатных API для прототипов: Groq (LLaMA 3.1, Mixtral), OpenRouter, SambaNova, NVIDIA NIM. Таблицы лимитов, подводные камни, код fallback-страте 7 мин чтения 3560 Как превратить Gemma 4 31B Dense в MoE: дообучение роутера и экспертов на Hugging Face Научитесь мутировать плотную Gemma 4 31B в Mixture of Experts с включением enable_moe_block. Дообучение роутера и экспертов на Hugging Face без обучения с нуля. 7 мин чтения 3561 Unified llama binary: новый стандарт запуска LLM на любом устройстве Unified binary от llama.cpp — один файл для запуска LLM на любом железе. Сравнение с Ollama и LM Studio, примеры использования на Raspberry Pi и ПК. 4 мин чтения 3562 Секретные фичи Claude Code: YOLO Classifier, hooks и постоянная память из исходников Разбор скрытых возможностей Claude Code: YOLO Classifier для автономной работы, система hooks и постоянная память из исходников. Примеры конфигураций. 5 мин чтения 3563 Архитектура AI RPG: авторитарный бэкенд, structured output и борьба с амнезией LLM Подробное руководство по созданию AI RPG с детерминированными механиками: FastAPI, pgvector, JSON-контракты, structured output. Решение проблемы дрейфа и амнези 7 мин чтения 3564 AMD наконец-то получила свой W4A16: vLLM запускает нативный HIP kernel vLLM добавил поддержку нативного W4A16 квантования для AMD GPU через HIP. Ускорение до 2-3x по сравнению с fallback. Бенчмарки, примеры, сравнение с llama.cpp. 5 мин чтения