Перейти к содержанию
Ctrl K
Telegram
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

121 Apple vs OpenAI: битва за секреты или война за аппаратное будущее? Громкий иск Apple против OpenAI из-за кражи коммерческой тайны бывшим топ-менеджером Tang Tan. За этим стоит война за AI-смартфон Jony Ive io и аппаратное будущ 1 мин чтения 122 Colibri: запуск 744-миллиардной модели GLM-5.2 на обычном ПК с 25 ГБ ОЗУ — разбор технологии и практические советы Как движок Colibri позволяет запустить гигантскую MoE модель GLM-5.2 (744B параметров) на обычном компьютере с 25 ГБ ОЗУ и NVMe. Разбор квантования, подгрузки э 5 мин чтения 123 Как Henry Schein One построил систему проверки стоматологических снимков в реальном времени на Amazon SageMaker Henry Schein One снижает отказы страховых требований благодаря ML-валидации X-ray снимков на Amazon SageMaker. Архитектура реального времени, метрики и уроки. 4 мин чтения 124 HiLS-Attention: Tencent ломает квадратичный барьер для локальных LLM Разбираем HiLS-Attention от Tencent: chunk-wise sparse attention, 7B модель на Hugging Face, сравнение со Sliding Window и FlashAttention. Кому и зачем это нужн 6 мин чтения 125 Разделяем prefill и decode на HyperPod: как DPD выжимает максимум из вашего кластера LLM Как Disaggregated Prefill Decode (DPD) на SageMaker HyperPod устраняет interference между prefill и decode, снижает tail latency и TTFT. Практика с vLLM и EFA. 4 мин чтения 126 Как получить 2.5x ускорение Qwen3.6 с NVFP4 квантизацией и Unsloth: пошаговое руководство Пошаговое руководство по квантизации Qwen3.6 в формат NVFP4 с помощью Unsloth для 2.5x ускорения инференса. Сравнение с llama.cpp, примеры кода и рекомендации. 6 мин чтения 127 MCP-сервер для Яндекс.Метрики: OAuth без секрета и боевой хук с LLM Пошаговый гайд по созданию MCP-сервера для Яндекс.Метрики с Device OAuth (без клиентского секрета). Интеграция с LLM-агентами, код и нюансы. 7 мин чтения 128 10 вопросов, которые нужно решить до запуска LLM-проекта: чек-лист для CTO и продакт-менеджеров Как не провалить LLM-проект: 10 ключевых вопросов для CTO и продакт-менеджеров. Метрики, бюджет, галлюцинации, выбор модели — полный чек-лист с примерами. 5 мин чтения 129 Ходьба робота через RL: от падений до рекорда за 48 часов на одной видеокарте. Рецепт с GitHub, GPU и инцидент с ножницами Научите двуногого робота ходить за 48 часов с помощью RL и GPU. Реальный код из GitHub, кейсы Boston Dynamics, Unitree, и инцидент с ножницами. Полный гайд для 7 мин чтения 130 Голосовой ассистент без GPU: Qwen3-ASR + Kokoro-TTS на CPU с ONNX Полный гайд по запуску голосового ассистента без видеокарты: Qwen3-ASR (ONNX) и Kokoro-TTS (82M) на CPU. Бенчмарки, код, частые ошибки. 6 мин чтения 131 Профилирование Attention в PyTorch: от наивной реализации до SDPA и кастомных ядер Глубокое руководство по профилированию механизма внимания в PyTorch. Сравнение наивной реализации, SDPA, Flash Attention 3 и кастомных ядер на Triton. Практичес 10 мин чтения 132 Локальный RAG для API CAD Smart3D: как автоматизировать проектирование без дорогих разработчиков Пошаговый гайд по созданию локального RAG-ассистента для COM API Smart3D. Как инженеру с нуля генерировать скрипты автоматизации с помощью LLM, экономя бюджет и 7 мин чтения