Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

997 Serverless-инференс LLM через Hugging Face и NVIDIA NIM: как работала схема и что использовать теперь Разбираем, как Hugging Face и NVIDIA NIM упрощали serverless-инференс open-source LLM: Enterprise Hub, fine-grained token, OpenAI-совместимый API и биллинг за в 15 мин чтения 998 Как сэкономить память при запуске diffusion transformers с Quanto и Diffusers Практическое руководство по снижению VRAM в diffusion-пайплайнах Diffusers с помощью Optimum Quanto. Разбираем, что квантизовать первым, как выбрать между FP8, 15 мин чтения 999 Google выпустила Gemma 2 2B, ShieldGemma и Gemma Scope: что дают новые открытые модели и инструменты Разбираем три разных релиза Google: Gemma 2 2B для локальной генерации, ShieldGemma для модерации входов и выходов LLM, Gemma Scope для анализа активаций через 14 мин чтения 1000 Как ограничивать расходы на Amazon Bedrock в реальном времени: per-user AI FinOps и архитектура Jamf Практический разбор per-user AI FinOps для Amazon Bedrock: как связать расходы с пользователями, считать дневной бюджет в Athena и через Lambda менять IAM-досту 18 мин чтения 1001 Spark-X2.5-4B и 1.7B: разбираем новую компактную LLM с заявленным нативным контекстом 1M Spark-X2.5-4B и 1.7B обещают компактную архитектуру и нативный контекст 1M токенов, но требуют осторожной проверки. Разбираем реальную ценность длинного окна, о 16 мин чтения 1002 Как безопасно довести Amazon Quick от POC до production: датасеты, агенты, Spaces и Flow-гейты Практический разбор безопасного запуска Amazon Quick в production: как разделить датасеты по аудиториям, настроить row-level security, изолировать агентов и Spa 17 мин чтения 1003 Почему MTP может замедлять Gemma 4 12B QAT на Vulkan и как ROCm меняет результат Почему MTP иногда снижает tokens/s у Gemma 4 12B QAT на Vulkan, хотя speculative decoding должен ускорять генерацию. Разбираем роль backend, KV-cache, VRAM и си 12 мин чтения 1004 Fambot: что это такое и как AI-«chief of staff» может разгрузить семейную организацию в 2026 году Fambot рассматривается как AI-помощник для семейной организации: разбираем концепцию chief of staff, работу с почтой, календарями, школьными уведомлениями и чат 17 мин чтения 1005 Boomi Scribe на AWS: как AI-агент автоматизирует документацию интеграций Разбираем референсную архитектуру AI-агента для документации интеграционных workflow: S3, DynamoDB, Lambda, SageMaker AI, Bedrock, сравнение версий и ограничени 6 мин чтения 1006 Как t54 выстроила слой доверия для автономных платежей агентов на Amazon Bedrock AgentCore Разбираем, почему лимита расходов недостаточно для автономного AI-агента и где должен срабатывать контроль получателя до списания. Внутри: session budgets, изол 10 мин чтения 1007 Как выращивать senior-разработчиков с AI-ассистентами AI-ассистенты ускоряют написание кода, но меняют путь от junior к senior: инженерная зрелость теперь формируется через инварианты, негативные тесты, review и от 15 мин чтения 1008 Как построить защищенную self-service аналитику в SageMaker для регулируемой компании Практический разбор защищенной self-service аналитики в Amazon SageMaker: изоляция доменов, IAM, шифрование, сетевые ограничения, аудит, резервное копирование р 17 мин чтения