Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

5209 Delta-KV для llama.cpp: как сжать KV-кеш до 4 бит почти без потерь на Llama 70B Техника дельта-квантования сжимает KV-кеш в 8 раз, позволяя запускать Llama 70B на слабом железе без потери качества. Интеграция в llama.cpp. 5 мин чтения 5210 FlashAttention-4: разгон инференса в 2.7 раза, поддержка в vLLM и жёсткие требования к железу Обзор FlashAttention-4: как работает, интеграция с vLLM 0.17.0, поддержка Blackwell и Hopper GPU, сравнение с альтернативами. 4 мин чтения 5211 oQ: data-driven mixed-precision квантование для Apple Silicon — обзор, установка и калибровка Обзор инструмента oQ для data-driven mixed-precision квантования моделей под Apple Silicon. Установка, калибровка, сравнение с аналогами и примеры использования 5 мин чтения 5212 Как стать Agentic AI Engineer с локальным стеком: план обучения, проекты и собеседования Пошаговый план, чтобы стать Agentic AI Engineer. Локальный стек на Ollama, ChromaDB, LangGraph. Какие проекты собрать в портфолио и как пройти собеседование. 7 мин чтения 5213 Qwen3.5 27B: лучшие практики оптимизации скорости и качества от сообщества LocalLLaMA Полное руководство по ускорению и настройке Qwen3.5 27B на 23.03.2026. Квантование, конфиги llama.cpp, оптимизация железа и исправление ошибок от сообщества. 8 мин чтения 5214 Асимметричный скептицизм: как LLM стали цензорами по умолчанию Новое исследование от 23.03.2026 показывает, как Claude 3.5, Gemini Ultra 2.0 и GPT-4o защищают официальные нарративы. Модели сами признают свою системную предв 3 мин чтения 5215 Шаблон системного промпта для Qwen: как структурировать запросы, чтобы ИИ понимал вас с первого раза Готовый шаблон системного промпта для Qwen 3.5-Plus. Узнайте, как структурировать запросы, чтобы получать точные ответы от ИИ с первого раза. Примеры и советы. 4 мин чтения 5216 Пошаговый гайд: интеграция Amazon Bedrock AgentCore со Slack для бизнес-агентов Подробная инструкция по подключению AI-агента из Bedrock AgentCore к Slack с использованием AWS CDK и Lambda. Разбор ошибок и лучшие практики. 11 мин чтения 5217 Детерминированные LLM от Artificial Genius: как Amazon Nova борется с галлюцинациями в финансах и медицине Обзор Amazon Nova от Artificial Genius. Как детерминированный ИИ решает проблему галлюцинаций в финансовых и медицинских LLM. Сравнение с GPT-5.2 и примеры испо 5 мин чтения 5218 Gimlet Labs: как multi-silicon inference cloud решает проблему bottlenecks в AI-инференсе Стартап Gimlet Labs привлек $80M для multi-silicon inference cloud, который распределяет AI-нагрузку по разному железу, решая проблему bottlenecks. Подробности 4 мин чтения 5219 Китайские LLM в тисках цензуры: как Qwen, DeepSeek, GLM и Yi фильтруют каждое слово Свежее исследование 2026 года показывает, как Qwen 4, DeepSeek V3, GLM-4 и Yi-Large цензурируют ответы. Разбор абляции внимания и способов обхода. 5 мин чтения 5220 LoCoMo врет: как сломанный бенчмарк памяти искажает все рейтинги LLM Разбор скандала с LoCoMo. 6.4% неверных ответов и принятие 63% лжи искажают результаты тестов GPT-4o, Claude 3.5 и других моделей на 2026 год. 4 мин чтения