Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
2593
Оптимизация инференса LLM в продакшене: как бороться с ростом TTFT и проблемами KV-кеша
Как ускорить инференс LLM в продакшене? Разбираем причины роста TTFT, проблемы KV-кеша и даем пошаговый план оптимизации с реальными бенчмарками.
2594
HalluSquatting: как галлюцинации LLM превращают вашу нейросеть в зомби-ферму для ботнета
Разбираем HalluSquatting – pull-based атаку, при которой галлюцинации LLM устанавливают вредоносные пакеты и создают ботнеты. Как защититься?
2595
Hy3 AI заставил один промпт превратиться в летающий симулятор: как один HTML-файл уделал целую команду разработчиков
Нейросеть Hy3 сгенерировала полноценный авиасимулятор в одном HTML-файле по одной команде. Разбираемся, как это работает и что это значит для будущего кода.
2596
Токенная диета для ИИ-агентов: как экономить токены с помощью техник Caveman, Ponytail и Headroom
Три техники экономии токенов в AI-агентах: Caveman (пещерный стиль), Ponytail (хвостик) и Headroom (сжатие). Практические примеры и подводные камни.
2597
8x B200 и GLM-5.2: почему NVFP4 с TP=4 убивает TP=8 на 30% быстрее
Практический гайд по деплою GLM-5.2 на 8×NVIDIA B200 с квантованием NVFP4. Сравнение Tensor Parallelism 4 vs 8, математика, пошаговая настройка, ошибки. Экономи
2598
Как AWS Finance сэкономил сотни часов с Amazon Quick: сценарии анализа и риск-моделирования
Реальный опыт AWS Finance: как генеративный AI-ассистент Amazon Quick автоматизировал сбор данных, сценарное моделирование и риск-анализ. Пошаговая архитектура
2599
Серверный AI-агент редактирования изображений: пошаговая сборка с Bedrock AgentCore и Stability AI
Пошаговое руководство по созданию серверного AI-агента для редактирования изображений с Bedrock AgentCore, Claude Sonnet и Stability AI. Развертывание через AWS
2600
Семантический слой BI: как объединить несколько наборов данных с Topics в Amazon QuickSight (Preview)
Пошаговый гайд по настройке multi-dataset Topics в Amazon QuickSight (preview). Как объединить несколько таблиц без денормализации и начать задавать вопросы на
2601
Продакшен RAG pipeline для PDF: реляционный парсинг, поиск по содержанию и типизированные ответы – полный гайд
Полный гайд по продакшен RAG pipeline для PDF: реляционный парсинг, поиск по TOC и типизированные ответы с Pydantic. Код и пошаговый план.
2602
Как построить локальный роутер галлюцинаций с помощью Jacobian Lens от Anthropic: тестирование на открытых моделях
Пошаговое руководство по использованию Jacobian Lens от Anthropic для обнаружения галлюцинаций в локальных LLM. Код, тесты на Qwen3 и Gemma3, сравнение с альтер
2603
Doom Loop больше не ад: Liquid AI выпустила Antidoom и это open source
Liquid AI представила открытый метод Antidoom, который устраняет зацикливание (doom loop) в reasoning-моделях. Улучшение LFM и Qwen до 40%. Код и примеры.
2604
Внешний фильтр для LLM: как заставить ИИ соблюдать закон без дообучения (Open Source)
Обзор Guardrails и AVI: как внедрить фильтр ввода-вывода для LLM без дообучения. Docker, мониторинг, защита от prompt injection и compliance.