Тематическая лента
Подборка материалов
Публикации, объединённые общей практической задачей.
4377
материалов
01
Как построить eval пайплайн для RAG-агента: кейс Битрикс24
Подробный гайд по построению пайплайна оценки (eval) для RAG-агента на примере Битрикс24. Используем RAGAS, LLM as a judge, метрики Recall@K, MRR, Faithfulness.
02
Deep Dive into CPU LLM Inference Performance: Why Custom Engines Lag Behind llama.cpp (MoE Case Study)
Разбираем, почему кастомные движки для MoE-моделей на CPU проигрывают llama.cpp в 7.3 раза. Анализ IPC, memory-bound, GGUF quantized и ключевые оптимизации.
03
Как запускать ИИ локально: полное руководство для начинающих (2026)
Полный гайд для начинающих: как запустить нейросеть на своем ПК. Установка Ollama, выбор модели, квантование, UI. Без облаков и подписок. Работает даже на 8 ГБ
04
GPU Time-Slicing для LLM агентов на Kubernetes: как разделить один GPU без потери производительности
Как настроить GPU Time-Slicing в Kubernetes для мультиагентных LLM систем. Реальные метрики, конфиги NVIDIA GPU Operator и советы по избежанию OOM.
05
Ваши 36 000 фото и 20 лет почты: как не умереть от хаоса с локальным AI-агентом
Полное руководство: как с помощью LLaVA, Ollama, Gmail API и Python разобрать 36 000 фото и очистить 20-летний почтовый ящик. Без облаков и потери данных.
06
Маркетинговая стратегия с ИИ: рабочие промпты и воркфлоу для Claude Projects
Пошаговый гайд: системный промпт, 3 рабочих промпта и воркфлоу для создания маркетинговой стратегии в Claude Projects. Реальный кейс и частые ошибки.
07
10 критических ошибок RAG в продакшене: как их избежать (разбор от экспертов)
Разбираем 10 типичных ошибок RAG-пайплайнов в продакшене: парсинг PDF, чанкинг, метаданные, эмбеддинги, реранкинг. Как исправить и не потерять точность.
08
Automated Voice Agent Testing Without a Microphone: Scaling Evaluations with Amazon Nova Sonic
Узнайте, как тестировать голосовых агентов без микрофона, используя Amazon Nova Sonic. Пошаговый гайд по автоматизации eval-сценариев для CI/CD и регрессионного
09
Голосовой агент за вечер: OpenAI Realtime 2 API + Whisper v4 — как склеить разговор в реальном времени и не выпить лишнего валидола
Пошаговый гайд по созданию голосового агента с субсекундной задержкой: стриминг аудио, перевод в реальном времени, tool calling. Примеры кода, ошибки и нюансы.
10
Почему RAG не справляется с числовыми агрегациями и как это исправить: маршрутизация вычислений
Эксперимент на 100k строк: RAG проваливает агрегации. Как маршрутизация запросов с SQL-движком спасает точность. Пошаговый гайд для Q&A систем.
11
Adversarial-атаки на LLM: от GCG до refusal direction — полный гайд по взлому safety-элайнмента
Глубокий технический обзор градиентных атак на LLM. Почему safety-элайнмент — иллюзия? От GCG до refusal direction. Примеры кода и практические нюансы.
12
Negation Neglect в LLM: почему языковые модели верят ложным утверждениям даже после предупреждений
Глубокий разбор феномена пренебрежения отрицанием в языковых моделях: как это мешает достоверности и что с этим делать на 2026 год.