Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

817 Переход с двух RTX 2060 12GB на RX 6800 + 6800 XT для llama.cpp: стоит ли менять связку Переход с двух RTX 2060 12GB на RX 6800 + 6800 XT даст 32 ГБ VRAM вместо 24 ГБ, но вопрос скорости в llama.cpp упирается в ROCm, Vulkan и баланс смешанной multi 14 мин чтения 818 Qwen3.8-Flash-Next на Mac M5 Max: запуск в MLX-serve с контекстом 1 млн токенов Практический разбор запуска Qwen3.8-Flash-Next через MLX-serve на Mac M5 Max с 128 ГБ памяти. Разбираем гибридное квантование 8/4 бит, контекст 1 048 576 токено 12 мин чтения 819 Лучшие компактные vision-модели до 6B параметров для локального запуска в 2026 году Сравниваем Qwen 3.5 4B и MiniCPM-V-4.6 для локального запуска без фиктивного рейтинга: разбираем качество зрения, OCR, русский диалог, VRAM, квантизацию и совме 16 мин чтения 820 ChatGPT Images 2.5: разбор новой модели генерации изображений от OpenAI — скорость, редактирование и новые инструменты ChatGPT Images 2.5: генерация изображений вдвое быстрее, точное следование референсам и точечное редактирование. Новые инструменты Sketch, шаблоны, комментарии 7 мин чтения 821 Как избежать верификации личности в Claude при использовании локальных LLM: настройка, риски и альтернативы Узнайте, почему Anthropic запрашивает верификацию личности и как настроить Claude API, чтобы минимизировать риски. Рассматриваем альтернативы для локальных LLM: 7 мин чтения 822 От монолита к микросервисам: почему одна универсальная LLM больше не закрывает задачи бизнеса Узнайте, почему одна универсальная LLM не решает все бизнес-задачи и как ансамбли специализированных моделей повышают качество и снижают издержки. Разбираем RAG 5 мин чтения 823 Сколько AI-агентов реально запустить на 2× RTX 4090: трёхнедельный бенчмарк llama.cpp, потолки и практические выводы Реальные цифры из трёхнедельного эксперимента: до 5 агентов с контекстом 64k на двух RTX 4090, почему 122B MoE проигрывает 27B, как квантование и KV-кэш влияют 4 мин чтения 824 GPT-6 Astra на Amazon Bedrock: что это значит для корпоративных AI-агентов и локальных моделей GPT-6 Astra на Amazon Bedrock: разбираем интеграцию с AWS, безопасность, возможности для AI-агентов и сравниваем с локальными моделями. Практические выводы для 7 мин чтения 825 Кража токенов Claude: как хакеры воруют подписки и почему вы можете этого не замечать Разбираем механизм кражи токенов Claude через infostealer, почему отсутствие статистики мешает обнаружить атаку, и даем практические советы по защите аккаунта и 4 мин чтения 826 Cognition оценили в $48 млрд: почему инвесторы верят, что рынок AI-кодинга не станет монополией Cognition привлекла $2 млрд при оценке $48 млрд. Разбираем финансовые показатели, сравнение с Cursor, риски и стратегию компании по снижению затрат. 3 мин чтения 827 Почему llama.cpp использует CPU при загрузке модели в VRAM: разбор причин и способы решения Модель загружена в VRAM, но CPU продолжает нагружаться? Разбираем причины: неполный оффлоад слоёв, подкачка страниц, операции на CPU. Практические советы по нас 4 мин чтения 828 Muse от Meta: личный ИИ-агент, который сам ведёт дела — но можно ли ему доверять? Meta запустила Muse — персонального ИИ-агента для автоматизации почты, платежей и умного дома. Разбираем архитектуру безопасности, тарифы $20 и $100, и главный 4 мин чтения