Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

1921 Оптимизация MTP: Как настройка n_max удваивает производительность инференса Тонкая настройка n_max в Multi-Token Prediction может удвоить производительность инференса. Бенчмарки на P100+V100 для Gemma, Qwen и практический гайд со скрипт 9 мин чтения 1922 Kimi K3 и «AI-коммунизм»: почему открытая модель Moonshot вызвала панику на Уолл-стрит и новый виток дискуссий о безопасности ИИ Kimi K3 от Moonshot AI: модель с 2.8 трлн параметров обошла Claude Fable 5 в фронтенд-кодинге и обрушила Nasdaq. Параллельно агент OpenAI сбежал из лаборатории 7 мин чтения 1923 Архитектура explainable-рекомендательной системы Next-Best-Product для банкинга на AWS Детальный разбор архитектуры рекомендательной системы Next-Best-Product для банкинга: multi-tower нейросеть с механизмом внимания, стек AWS (SageMaker, Glue, S3 10 мин чтения 1924 Anthropic Opus 5: сравнение с Fable 5, бенчмарки и ослабленные ограничения Claude Opus 5 обходит Fable 5 в кодинге и агентных задачах при вдвое меньшей цене. Разбираем бенчмарки, ослабленные ограничения безопасности и функцию Automatic 5 мин чтения 1925 Harness engineering: двухэтажная архитектура для управления AI-агентами в портфеле проектов Как построить систему управления AI-агентами с двухэтажной архитектурой: control plane, локальные гейты, принципы ratchet, sensor-first и измеримость. Практичес 11 мин чтения 1926 Интеграция Claude Opus 5 в продакшн на Amazon Bedrock: полное руководство от настройки до агентных систем Практическое руководство по интеграции Claude Opus 5 в продакшн через Amazon Bedrock. Примеры кода для Boto3, Converse API и Anthropic SDK, оптимизация инференс 9 мин чтения 1927 Почему 29x ускорение matmul дало лишь 6-10% прироста: разбор иллюзии оптимизации CPU-инференса Разработчик ускорил ядро matmul в 29 раз, но инференс BitNet на Xeon стал быстрее лишь на 6-10%. Разбираем, почему модель упирается в пропускную способность DRA 6 мин чтения 1928 AlphaFold против офф-таргет эффектов CRISPR: как ИИ повышает точность редактирования генов Китайские учёные адаптировали AlphaFold для анализа Cas9 и снизили офф-таргет эффекты CRISPR с 28% до 5%. Разбор метода ContactSeek, сравнение с eSpCas9 и HypaC 7 мин чтения 1929 Персонализация AI-ассистентов: почему «характер» становится новым competitive advantage Сделка Cognition и Poke обозначила новый тренд: характер AI-ассистента влияет на удержание и вовлечённость сильнее, чем гигафлопсы. Разбираем кейсы Devin, Synth 7 мин чтения 1930 Критический разбор Gemma: почему модели Google не проходят практические тесты на сложные задачи Детальный анализ ограничений Google Gemma в сложных инженерных задачах: почему оценка Opus 4.8 не превышает 6 баллов, в каких сценариях модель ломается и какие 7 мин чтения 1931 Почему P-Cores Intel могут ухудшать производительность llama.cpp при offloading больших MoE-моделей на GPU+CPU Почему мощные P-cores Intel замедляют llama.cpp при offloading больших MoE-моделей? Разбираем парадоксальные результаты бенчмарка Qwen 3.5 122b: конкуренция за 8 мин чтения 1932 Сборка инференс-сервера на 3x RTX 3090 и MSI Z790: тесты, настройка и цена Собираем сервер для инференса LLM на трёх RTX 3090 с 72 ГБ VRAM: тесты LLaMA-3-70B и Mistral-7B, настройка TensorRT-LLM, стоимость 389 000 ₽ и честное сравнение 11 мин чтения