Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5488 материалов
01 Разделение prefill и decode на разные GPU: как Perplexity и Meta экономят на инференсе LLM Как Perplexity и Meta снижают затраты на инференс LLM в 2 раза через разделение prefill и decode фаз. Практический разбор disaggregated inference, DistServe и а 9 мин чтения 02 Как создавать функции вознаграждения для кастомизации Amazon Nova: руководство с AWS Lambda и кодом Пошаговое руководство по созданию serverless функций вознаграждения для RL-финальной настройки Amazon Nova в AWS Bedrock. Готовый код Python для AWS Lambda. 9 мин чтения 03 Трансформер как программируемый компьютер: зачем нам нужны детерминированные AI без обучения Глубокий разбор концепции программируемого трансформера: как создать детерминированную AI-машину без обучения, архитектура и практическое применение. 8 мин чтения 04 Как собрать систему за $800 для запуска Llama4 108B: обзор железа Dell Precision 7820 и настройки Пошаговый гайд по сборке системы за $800 на базе Dell Precision 7820 для локального запуска Llama4 108B. Конфигурация железа, настройка и оптимизация. 12 мин чтения 05 Как запустить Gemma 4 на Android в proot Linux для выполнения shell-команд оффлайн: полный гайд Подробный гайд по запуску Gemma 4 на Android внутри proot Linux. Настройка автономного AI-ассистента для терминала без интернета. 9 мин чтения 06 Тестирование 25 LLM-моделей на Asus ProArt Px13 (StrixHalo): какие модели работают лучше всего на мобильном железе Практическое тестирование 25 LLM-моделей на ноутбуке Asus ProArt Px13 с AMD StrixHalo. Сравнение производительности, скорость, память, лучшие модели для мобильн 9 мин чтения 07 Как остановить 90% бесполезных retries в ReAct-агентах: анализ архитектурной ошибки Глубокий разбор архитектурной ошибки, вызывающей 90% бесполезных retries в ReAct-агентах. Пошаговый план исправления для production. 10 мин чтения 08 Как настроить контроль затрат в Amazon Bedrock Projects: полное руководство по тегам и анализу Пошаговое руководство по настройке контроля затрат в Amazon Bedrock Projects с помощью тегов, API и AWS Cost Explorer. Атрибуция расходов, chargeback, оптимизац 7 мин чтения 09 Собираем автономную коляску на ROS: от железа до искусственного интеллекта Пошаговый гайд по созданию автономной инвалидной коляски с ROS2, лидаром и AI-навигацией. Аппаратная часть, код, тонкости. 11 мин чтения 10 SFT, RFT или дистилляция: какой метод fine-tuning выбрать для Amazon Nova в Bedrock Подробное сравнение Supervised Fine-Tuning, Reinforcement Fine-Tuning и дистилляции для Amazon Nova в Bedrock. Как выбрать метод исходя из задач, бюджета и треб 9 мин чтения 11 Создание виртуальных двойников органов с помощью AI: инструменты и методы обработки медицинских снимков Полное руководство по созданию цифровых двойников органов из MRI/CT сканов с использованием Python и AI. Пошаговый план от сегментации до биомеханической симуля 8 мин чтения 12 Dual A100X на твоём столе: настрой, разгони и плачь от счастья (или от счёта за электричество) Полный гайд по настройке двух NVIDIA A100X для локальных AI-задач. Разбираемся с workflow, распределением нагрузки, решаем проблемы производительности и рассмат 8 мин чтения