Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

313 Splash 1.1.0: локальный инференс на Apple Silicon с поддержкой GGUF и импортом MLX Splash 1.1.0 добавил поддержку GGUF-квантов и импорт моделей MLX для локального инференса на Apple Silicon. Разбираем, что это даёт на практике, какую скорость 8 мин чтения 314 Своя Gated RNN вместо LSTM и GRU: разбор математики LSWM, тестов и бенчмарков Автор LSWM заменил tanh и сигмоиду на softsign, убрал CEC и заменил конкатенацию сложением. По его замерам на CPU модель дала 100% точности на multi-hop branchi 9 мин чтения 315 Две RTX 3090 в локальном AI-сервере: что реально даёт вторая карта Разбираем, когда вторая RTX 3090 реально ускоряет локальные LLM и генерацию, а когда простаивает: суммарные 48 ГБ VRAM, multi-GPU, PCIe, NVLink и проверка софта 10 мин чтения 316 Overspill: 85-ГБ MoE-модель DeepSeek-V4-Flash на RTX 3060 12 ГБ и 2,8-3,4 tok/s Разбираем экспериментальный дисковый тир Overspill для движка FreeToken: DeepSeek-V4-Flash REAP-150B на 85 ГБ запускается на RTX 3060 12 ГБ со скоростью 2,8-3,4 9 мин чтения 317 4x RTX 3060 Ti для локальных LLM: tensor parallel, Exl3 и vLLM на 32 ГБ VRAM Четыре RTX 3060 Ti из старой майнинговой фермы дают 32 ГБ VRAM и 70-120 токенов/с на модели Swift-Qwen3.8-27B. Разбираем практический кейс: почему без tensor pa 8 мин чтения 318 Что останется ценным в ИТ, когда нейросети есть у всех: harness, легаси и локальные модели Нейросети стали ценой входа на рынок, а не конкурентным преимуществом. Разбираем, что остаётся ценным: harness вокруг чужой модели, отлаженный годами код, дообу 10 мин чтения 319 Linux MCP daemon: как дать ИИ-агенту доступ к серверу без SSH и sudo Linux MCP daemon (mcpd) - сервер на Go, который отдаёт ИИ-агенту состояние системы через 38 инструментов MCP вместо SSH с sudo. Разбираем архитектуру, точечную 10 мин чтения 320 Почему локальные AI-модели бесплатны: экономика открытых весов и что это значит для пользователя Открытые веса выкладывают бесплатно, но зарабатывают на облаках, API и поддержке. Разбираем, кто выпускает открытые модели, чем скачивание отличается от запуска 7 мин чтения 321 Qwen 3.8 Flash Next на архитектуре Qwen 4: реально ли запустить на одной RTX 3090 Разбираем, что подтверждено о Qwen 3.8 Flash Next и её связи с архитектурой Qwen 4, влезет ли 29.6 ГБ резидентного набора в 24 ГБ RTX 3090 и какие факторы реаль 7 мин чтения 322 Как автоматизировать ведение соцсетей с ИИ: от контент-плана до автопостинга Как автоматизировать ведение соцсетей с помощью ИИ: контент-план, генерация постов и картинок, защита от дублей, Telegram, VK, MAX и автопостинг. 16 мин чтения 323 Datacor встроила self-service аналитику аренды в TrackAbout на базе Amazon Quick Sight Datacor встроила в TrackAbout интерактивные дашборды и поиск на естественном языке на базе Amazon Quick Sight, чтобы газовые и сварочные дистрибьюторы сами пров 9 мин чтения 324 Qwen3-TTS на Amazon SageMaker: разворачиваем клонирование голоса в реальном времени Разворачиваем Qwen3-TTS-12Hz-1.7B-Base из Amazon SageMaker JumpStart: управляемый endpoint реального времени, клонирование голоса по короткому референсу, распре 10 мин чтения