Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
949
Как сэкономить VRAM в llama.cpp: отключаем pipeline parallelism с помощью флага компиляции
Pipeline parallelism по умолчанию жрет VRAM впустую и не дает прироста скорости. Узнайте, как одним флагом компиляции отключить его и выиграть до 1-2 ГБ памяти
950
Apple раздаёт AI бесплатно: что нужно знать инди-разработчикам о Foundation Models
Apple открывает бесплатный API Foundation Models для инди-разработчиков. Условия доступа, лимиты и как это изменит App Store.
951
ByteShape против Unsloth: выбор квантизации для Qwen3.6-35B-A3B в задачах tool calling и long context
Сравниваем квантизации ByteShape и Unsloth для Qwen3.6-35B-A3B: точность tool calling, поведение на длинном контексте, скорость и KV cache. Бенчмарки и рекоменд
952
Siri Campos: Apple наконец-то родила ИИ-ассистента, который не стыдно показать ChatGPT
Разбираем Siri Campos — новую AI-функциональность Apple: локальные модели, Gemini в облаке, выбор провайдера через Extensions. Сравнение с ChatGPT, перспективы
953
NanoQuant: экстремальное квантование LLM до 0.5 бит — обзор реализации и первые тесты
Обзор NanoQuant — открытого инструмента для суб-1-битного квантования LLM до 0.5 бита на вес. Установка, сравнение с GPTQ/TurboQuant, первые тесты на Llama 3.1
954
Как построить AI-команду для vibe-coding: пайплайн агентов от задачи до прода
Пошаговое руководство по созданию агентного пайплайна разработки на Go, MongoDB и Kubernetes. MCP, саб-агенты, деплой. Избегаем хаоса и техдолга.
955
1000 токенов в секунду на 1T модели: реальный прорыв Xiaomi или ловкий маркетинг?
Разбор заявления Xiaomi о 1000 токенов/с на модели с 1 трлн параметров с 8 GPU. Анализ ультра-разреженного MoE, скепсис сообщества и перспективы для локального
956
Как ускорить генерацию токенов на Gemma 4 с MTP и QAT: настройка и результаты
Полный гайд по ускорению генерации токенов на Gemma 4 27B/31B с помощью MTP и QAT. Реальные цифры скорости на RTX 3060 и RTX 4090. Пошаговая настройка в llama.c
957
Как автоматизировать квалификацию лидов в Bitrix24 с помощью ИИ: архитектура и результаты
Практический гайд: как настроить ИИ-агента на FastAPI и GPT-5 для квалификации лидов в Bitrix24 через webhooks. Экономия 70% времени менеджеров, рост конверсии.
958
Luce Spark: 35B MoE модель для 16GB GPU без offload – обзор и установка
Luce Spark 35B MoE — модель, которая умещается в 16GB VRAM без offload. Сравнение с аналогами, бенчмарки, инструкция по установке для локального запуска.
959
Когда ИИ охотится на zero-day: первая в истории атака на open source
Первый задокументированный случай, когда ИИ-агент самостоятельно нашел и эксплуатировал уязвимость нулевого дня в open source. Разбор инцидента и сценарии защит
960
Видео в llama.cpp: как включить поддержку видео через mtmd (PR #24269)
Разбираем PR #24269 от ngxson: как добавить поддержку видео в llama.cpp через mtmd. Примеры сборки, сравнение с альтернативами, практические советы.