Перейти к содержанию
Новое AiManual теперь в MAX Подписаться
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

7345 Локальный AI против облака: почему эксперты по инфраструктуре делают ставку на свои серверы Почти 70% инфраструктурных инженеров выбирают локальные AI-серверы. Разбираем реальные цифры, скрытые расходы облачных API и план перехода на свои сервера. 8 мин чтения 7346 Когда Granite 4.0 H 1B сжирает всю память A100: ломаем PYTORCH_CUDA_ALLOC_CONF Пошаговое решение OOM ошибок при финтюнинге Granite 4.0 H 1B на Tesla A100 40GB. Настройка PYTORCH_CUDA_ALLOC_CONF, оптимизация Unsloth и работа с памятью CUDA. 8 мин чтения 7347 Почему AI-поиск с SearXNG перестал работать: диагностика блокировок и альтернативы для OpenWebUI Пошаговый гайд по диагностике блокировок SearXNG в OpenWebUI. Альтернативы AI-поиску: локальные решения, прокси, другие метапоисковые системы. 7 мин чтения 7348 Практический гайд: Как настроить Gemma-3-4b-it для вызова процедур с помощью QLoRA Пошаговое руководство по адаптации Gemma-3-4b-it для вызова API и процедур с помощью QLoRA. Требования к железу, подготовка датасета, обучение на 24 ГБ VRAM. 7 мин чтения 7349 Ministral-3-14B-Reasoning: как маленькая модель бьёт гигантов в бенчмарках — разбор результатов Разбор результатов Ministral-3-14B-Reasoning в бенчмарках LiveCodeBench, GPQA, AIME. Почему 14B модель обходит конкурентов с 70B+ параметрами. 6 мин чтения 7350 Где арендовать GPU дешевле DeepInfra: сравнение цен и условий на A100, H100, B200 Сравнение провайдеров аренды GPU: где найти A100, H100, B200 по лучшим ценам. Альтернативы DeepInfра для AI-инференса. 6 мин чтения 7351 NVIDIA DGX Spark: реальный опыт использования, тонкости настройки и подводные камни для локального AI Подробный обзор NVIDIA DGX Spark для локального AI: реальный опыт использования, тонкости настройки, проблемы стабильности и сравнение с облачными GPU. 6 мин чтения 7352 GLM 4.7 против MiniMax M2.1: ломаем код на реальной задаче по CLI Детальный тест двух моделей на создании CLI-утилиты. Сравнение архитектурных решений, качества кода и практической применимости. 4 мин чтения 7353 Chief CLI: как автоматизировать кодирование с Claude и git worktrees по методу Ralph Wiggum Автоматизируйте программирование с Claude Code через git worktrees. Структурированный подход к верификации кода и планированию задач. 6 мин чтения 7354 Дистилляция и квантование LLM для локального RAG: пошаговый туториал с кодом Пошаговый туториал по созданию специализированного RAG-ассистента: дистилляция Teacher-Student, синтетический датасет, квантование в GGUF. Работает на обычном н 9 мин чтения 7355 Арабский документ в RAG за 5 шагов: как не провалить проект из-за кривых таблиц и диакритики Практическое руководство по обработке арабских документов для RAG: от OCR до табличных данных. Реальный пайплайн, ошибки, инструменты. 7 мин чтения 7356 DeepSeek готовит новый флагман: что изменится в программировании с ИИ DeepSeek анонсирует флагманскую модель с фокусом на программировании. Что ждать разработчикам и как это изменит рынок ИИ-ассистентов. 5 мин чтения