Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5477 материалов
01 Выбор AMD EPYC для инференса LLM: 9374F vs 9135 — что скрывают цифры CCD? Сравнение EPYC 9374F и 9135 в llama.cpp. Как количество CCD и потоков влияет на скорость инференса LLM. Оптимальная конфигурация для CPU-инференса. 6 мин чтения 02 Как избежать LLM-говнокода: архитектурные практики и deptrac для Symfony-проектов LLM генерирует удобный код, но нарушает слои. Узнайте, как deptrac и контракты держат архитектуру в рамках. Пошаговый гайд для Symfony + CI. 8 мин чтения 03 MCP-сервер для Яндекс.Метрики: OAuth без секрета и боевой хук с LLM Пошаговый гайд по созданию MCP-сервера для Яндекс.Метрики с Device OAuth (без клиентского секрета). Интеграция с LLM-агентами, код и нюансы. 7 мин чтения 04 10 вопросов, которые нужно решить до запуска LLM-проекта: чек-лист для CTO и продакт-менеджеров Как не провалить LLM-проект: 10 ключевых вопросов для CTO и продакт-менеджеров. Метрики, бюджет, галлюцинации, выбор модели — полный чек-лист с примерами. 5 мин чтения 05 Ходьба робота через RL: от падений до рекорда за 48 часов на одной видеокарте. Рецепт с GitHub, GPU и инцидент с ножницами Научите двуногого робота ходить за 48 часов с помощью RL и GPU. Реальный код из GitHub, кейсы Boston Dynamics, Unitree, и инцидент с ножницами. Полный гайд для 7 мин чтения 06 Голосовой ассистент без GPU: Qwen3-ASR + Kokoro-TTS на CPU с ONNX Полный гайд по запуску голосового ассистента без видеокарты: Qwen3-ASR (ONNX) и Kokoro-TTS (82M) на CPU. Бенчмарки, код, частые ошибки. 6 мин чтения 07 Профилирование Attention в PyTorch: от наивной реализации до SDPA и кастомных ядер Глубокое руководство по профилированию механизма внимания в PyTorch. Сравнение наивной реализации, SDPA, Flash Attention 3 и кастомных ядер на Triton. Практичес 10 мин чтения 08 Локальный RAG для API CAD Smart3D: как автоматизировать проектирование без дорогих разработчиков Пошаговый гайд по созданию локального RAG-ассистента для COM API Smart3D. Как инженеру с нуля генерировать скрипты автоматизации с помощью LLM, экономя бюджет и 7 мин чтения 09 Как заставить LLM генерировать строгий JSON: обзор методов констрейнта (constrained sampling) Глубокий обзор грамматических констрейнтов, Outlines, Guidance, XGrammar и других методов гарантированного получения валидного JSON от LLM. Код, сравнение, ошиб 7 мин чтения 10 Как построить AI-агента для анализа вредоносов: связка песочницы, Ghidra и LLM Пошаговый гайд по созданию AI-агента на базе GPT-5 для автоматического анализа вредоносного ПО. Используем VirtualBox, Ghidra 11.2 и ReAct паттерн. Реальная эко 8 мин чтения 11 Как квантование влияет на математику, код и логику: разбор по тестам GSM8K, HumanEval и ARC-Challenge Сравнение квантований Q2-Q8 на задачах математики, кода и логики. Какие способности страдают сильнее всего? Реальные цифры и методология тестирования. 8 мин чтения 12 GLM-5.2 (744B MoE) на 25 ГБ ОЗУ: рекордное квантование, которое переписывает правила игры Запустите GLM-5.2 (744B MoE) всего на 25 ГБ ОЗУ. Пошаговый гайд с квантованием IQ1_M и оффлоадом на SSD. Реальные тесты, скорость и качество. 6 мин чтения