Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

1105 Ninfer vs vLLM для Qwen 3.8 27B на RTX 5090: что выбрать и как настроить под агента Сравниваем ninfer и vLLM для Qwen 3.8 27B на RTX 5090: разбираем VRAM, KV-cache, prefilling, generation, batch, ub и контекст 131072 токенов. Показываем, с како 12 мин чтения 1106 Как Caterpillar переносит опыт автономной добычи на внедрение AI в промышленности Разбираем, чему опыт Caterpillar в автономной добыче учит промышленному AI: как связать данные, технику, цифровые двойники, операторов и IT/OT-процессы. В стать 11 мин чтения 1107 Как context engineering меняет работу data scientist в 2026 году Разбираем, чем context engineering отличается от prompt engineering и как меняется работа data scientist: подготовка данных, EDA, обучение моделей, ноутбуки, пр 11 мин чтения 1108 LLMFan46 выпустил набор uncensored GGUF-моделей с поддержкой MTP, sparse attention и vision Обзор новых GGUF-моделей от LLMFan46: LongCat-Flash-Lite-Sparse с sparse attention и контекстом 1 млн токенов, Qwen3.8-27B, Qwen3.5-122B-A10B, Qwen3-Coder-Next 5 мин чтения 1109 Qwen 3.8 Flash Next Q6_K_XL на 4x RTX 3090: запуск локально, скорость и упор в память Практический разбор запуска Qwen 3.8 Flash Next Q6_K_XL на 4x RTX 3090 через llama-server. Разбираем параметры mmap, split по слоям, контекст, KV-кэш, OOM, pref 12 мин чтения 1110 Трёхфазная защита ИИ-агентов: разбор современных атак и возможностей open-source модели OGL-Mini Прямые и непрямые промпт-инъекции, джейлбрейки, обфускация и агентные атаки: разбираем трёхфазную защиту OGL-Mini и показываем, как встроить её в TypeScript-пай 8 мин чтения 1111 Как собрать и настроить Qwen3.8-Flash-Next NVFP4 на двух Spark под vLLM: конфиг, сетевые нюансы и узкие места Практическая настройка Qwen3.8-Flash-Next NVFP4 на двух DGX Spark под vLLM: tensor parallelism, eager, MTP, prefill, NCCL/RoCE, flashinfer и Docker. 8 мин чтения 1112 MarkMello 0.4.0: как Markdown-просмотрщик вырос в компактный редактор для папок и локальной документации MarkMello 0.4.0 превращает быстрый Markdown-просмотр в компактное рабочее пространство для локальных папок: вкладки, поиск, файловые операции, Mermaid и локальн 8 мин чтения 1113 Как дефицит турбин и газовая инфраструктура подталкивают AI-индустрию к локальному производству AI-инфраструктура упирается в дефицит генерации, турбин и критичных компонентов. Разбираем, зачем дата-центрам локальная газовая энергетика, как производство ло 12 мин чтения 1114 Нейросети как новая ловушка продуктивности: почему ИИ снижает порог входа, но не заменяет опыт Нейросети помогают за один сеанс получить код, текст или прототип, но быстрый результат легко принять за реальную компетенцию. Разбираем признаки продуктивной п 10 мин чтения 1115 Почему eGPU переходит с x4 на x1: как разъёмы и райзеры влияют на PCIe-линии eGPU внезапно работает на PCIe x1 вместо x4? Разбираем, как плохой контакт, натяжение кабеля и некачественный райзер приводят к потере PCIe-линий, как отличить 11 мин чтения 1116 MiniMax H3 в TensorSharp: локальная генерация видео в одном inference-стеке Разбираем, что дает запуск MiniMax H3 в TensorSharp и как единый локальный inference-стек объединяет LLM, image-to-video и мультимодальные сценарии. Объясняем о 8 мин чтения