Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

3481 128 ТБ памяти для LLM: новый AI-сервер Prometheus обещает прорвать «стену памяти» и превзойти NVIDIA DGX Majestic Labs представила AI-сервер Prometheus с 128 ТБ DRAM. Решит ли он проблему «стены памяти» в LLM-инференсе? Сравнение с NVIDIA DGX, анализ архитектуры. 5 мин чтения 3482 mistral.rs v0.8.2: как получить до 2.8x ускорение CUDA инференса по сравнению с llama.cpp на H100, B200 и GB10 Разбираем бенчмарки mistral.rs v0.8.2 на H100, B200, GB10. Технологии за приростом до 2.8x и кому это нужно. 4 мин чтения 3483 AI-компаньон в проде: 5 архитектурных решений для памяти, визуала и прод-тюнинга Инженерный разбор: Redis + ChromaDB, IP-Adapter, LoRA и юнит‑экономика. Как не угробить проект AI‑чата в проде. Даты, кейсы, ошибки. 7 мин чтения 3484 Mellum2: открытая быстрая модель от JetBrains для AI-воркфлоу - обзор и запуск Обзор Mellum2 - новой открытой модели JetBrains с высокой скоростью инференса. Технические детали, сравнение с аналогами, примеры запуска локально. 5 мин чтения 3485 Как встроить MCP-сервер ритейлера в ИИ-агента: кейс бота «Су-Шеф» от семиклассников Семиклассники создали бота, который покупает продукты через MCP. Разбираем, как встроить MCP-сервер ритейлера в агента, код и архитектура. 7 мин чтения 3486 Как не-программист создал завод ИИ-агентов для управления пивоварней: история оркестрации без кода Владелец пивоварни без навыков кода построил систему из 6 AI-агентов на Claude 4 и GPT-5. Конфликты, оркестрация, no-code - реальный кейс с проблемами мультиаге 4 мин чтения 3487 Запуск Qwen3.5-35B на двух Tesla V100: обратный SSH, AWQ квантование и Telegram Mini App для AI-репетитора Пошаговое руководство: квантование AWQ, обход FlashAttention на Volta, настройка обратного SSH и Telegram Mini App. Реальный опыт запуска MoE-модели на старых G 9 мин чтения 3488 Agentic BI и Text-to-SQL: как агентная аналитика хоронит дашборды и подставляет дата-аналитиков Дашборды мертвы? Агентная аналитика с Text-to-SQL заменяет графики на живые диалоги. Разбираем Hex, Valley of Choice и угрозу для дата-аналитиков. 6 мин чтения 3489 MCP с локальными моделями: как настроить инструменты для Ollama и Open Web UI Пошаговое руководство по подключению MCP-серверов к локальным LLM через Ollama и Open Web UI. Решаем проблему фейковых вызовов инструментов и настраиваем реальн 9 мин чтения 3490 Только 27% организаций готовы к ИИ: главные барьеры и как их преодолеть (по данным HBR) Свежий опрос HBR показал, что лишь 27% организаций реально готовы к внедрению ИИ. Разбираем главные барьеры — от данных до культуры — и даем конкретные шаги для 5 мин чтения 3491 Майский дайджест open-source: кому достался трон локальных LLM? Свежий обзор открытых моделей май 2026: LLaMA 4, Mistral Large 3, Qwen 3.5 и другие. Какие модели можно запустить локально и кому они подойдут? 5 мин чтения 3492 Большие контекстные окна — ловушка: исследование Context Rot и «слепая зона» в середине документа Новое исследование (май 2026) показало: даже GPT-5 и Claude 4 деградируют на середине 1M токенов. Разбираем феномен Context Rot и способы борьбы. 6 мин чтения