Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5477 материалов
01 Running GLM 5.2 on 4x GB10 with 100G Switch: Performance, 330k Context, and Setup Guide Полное руководство по запуску GLM 5.2 на кластере из 4x NVIDIA GB10 через 100G свитч. Настройка vLLM, бенчмарки, 330k контекст, оптимизация TP и NVFP4. 7 мин чтения 02 Исправление падения DeepSeek V4 Flash в llama.cpp: обход бага и патч DeepSeek V4 Flash падает на мульти-GPU? Решение: баг в шардинге MoE, патч в BeeLlama.cpp. Пошаговая инструкция и нюансы. 5 мин чтения 03 Обучение LLM 0.5B с нуля на Хабре: fp8 vs bf16 и этапы обучения на домашнем железе Практический гайд по обучению 0.5B модели на датасете Хабра с нуля. Сравнение fp8 и bf16, этапы pretrain/SFT/DPO, настройка на RTX 4090. Результаты и грабли. 6 мин чтения 04 OpenAI Realtime vs Яндекс Realtime: тест голосовых движков для российского бизнеса и миграция прода Сравниваем OpenAI Realtime (GPT-4o) и Яндекс Voice API Realtime: задержки, качество распознавания русского, цены, юридические риски. Кейс миграции прода с цифра 7 мин чтения 05 Как защитить Amazon Bedrock AgentCore Runtime с помощью AWS WAF: решение проблемы health checks Пошаговое руководство по настройке AWS WAF для Amazon Bedrock AgentCore с обходом ограничений health checks. Архитектура, нюансы, Terraform-код. 7 мин чтения 06 Автоматизация анализа отзывов с помощью Embeddings и GPT: пошаговое руководство Научитесь автоматически анализировать тысячи отзывов с помощью embeddings и GPT. Пошаговое руководство с кодом, кластеризацией и генерацией инсайтов. 7 мин чтения 07 Как создать training-free детектор галлюцинаций для RAG и обнаружить ошибки в эталонной разметке Пошаговый гайд по созданию ансамбля LLM-судей для детекции галлюцинаций без дообучения. Разбираем метрики, сравниваем модели и находим дефекты в датасете RAGTru 9 мин чтения 08 Чеклист для NLP собеседования: LLM, prompt engineering и alignment — полный разбор тем Готовься к собеседованию по NLP: полный чеклист тем по LLM, prompt engineering и alignment. Архитектура, обучение, техники, подводные камни — всё, что нужно зна 7 мин чтения 09 Как работают voice-2-voice модели: от нейронных кодеков до трансформеров — полный разбор Глубокий технический разбор V2V моделей: нейронные кодеки (SoundStream, EnCodec, DAC), трансформеры аудио, архитектурные компромиссы и практические ошибки. Акту 6 мин чтения 10 Оптимизация инференса LLM в продакшене: как бороться с ростом TTFT и проблемами KV-кеша Как ускорить инференс LLM в продакшене? Разбираем причины роста TTFT, проблемы KV-кеша и даем пошаговый план оптимизации с реальными бенчмарками. 7 мин чтения 11 Токенная диета для ИИ-агентов: как экономить токены с помощью техник Caveman, Ponytail и Headroom Три техники экономии токенов в AI-агентах: Caveman (пещерный стиль), Ponytail (хвостик) и Headroom (сжатие). Практические примеры и подводные камни. 6 мин чтения 12 8x B200 и GLM-5.2: почему NVFP4 с TP=4 убивает TP=8 на 30% быстрее Практический гайд по деплою GLM-5.2 на 8×NVIDIA B200 с квантованием NVFP4. Сравнение Tensor Parallelism 4 vs 8, математика, пошаговая настройка, ошибки. Экономи 8 мин чтения