Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5433 материалов
01 Qwen3.8-27B на RTX PRO 4000 Blackwell 24GB: 128K контекст и ускорение MTP3 Разбираем запуск Qwen3.8-27B на RTX PRO 4000 Blackwell 24GB: выбор CUDA 13.3 и nvcc, поддержку sm_120a, пересборку NInfer, MTP3 и сравнение BF16 с INT8 KV cache 17 мин чтения 02 Почему имя GGUF-кванта может не совпадать с тем, что реально лежит в файле Разбираем, почему маркировка GGUF может скрывать fallback в llama-quantize, из-за которого IQ1 или IQ2 оказываются ближе к 4.5 bpw. Узнайте, как проверить типы 10 мин чтения 03 Как neocloud-компании финансируют закупки GPU в 2026 году и почему AI-инфраструктура уходит в долг Почему AI-облака берут private debt и secured credit facility под Nvidia-GPU, как клиентские контракты превращают аренду мощностей в денежный поток и где скрыты 12 мин чтения 04 OpenAI проверяет постоянно работающий режим Codex: возможности и риски автономного ИИ-агента OpenAI проверяет превращение Codex в постоянно работающего ИИ-агента, который сохраняет контекст, продолжает задачи между сессиями и использует инструменты. Раз 12 мин чтения 05 ROCm 10.0: что меняется для локальных LLM и агентного AI на AMD Разбираем, что ROCm 10.0 меняет для локальных LLM на AMD: как связаны ROCm, llama.cpp и ONNX Runtime, зачем OpenAI-совместимый API агентам и RAG, сколько VRAM н 12 мин чтения 06 Как собрать локальный стек для Qwen3.8 27B на двух RTX 3090 с DFlash2 и LMCache Разбираем практическую схему запуска Qwen3.8 27B на двух RTX 3090 с DFlash2, speculative decoding, fp8 KV-cache и LMCache. Показываем, как связаны VRAM, RAM, NV 12 мин чтения 07 Как Salesforce добилась Multi-AZ отказоустойчивости для SageMaker Inference Components без потери экономии на GPU Разбираем, почему многозонный SageMaker endpoint не гарантирует отказоустойчивость конкретной модели и как SchedulingConfig с PlacementStrategy SPREAD помогает 10 мин чтения 08 Как Decathlon использует Chronos-2 для прогнозирования спроса на десятки тысяч SKU Разбираем заявленный кейс Decathlon с Chronos-2: как time series foundation model может упростить недельный прогноз спроса по десяткам тысяч SKU и регионов. В с 9 мин чтения 09 Amazon SageMaker Feature Store получил BatchWriteRecord и ListRecords: что меняется для ingestion и управления записями Разбираем, как BatchWriteRecord и ListRecords меняют работу с Amazon SageMaker Feature Store: пакетная запись до 25 признаковых записей, partial success, retry 10 мин чтения 10 Как построить human-in-the-loop для AI-агента без потери пропускной способности Как спроектировать систему подтверждений для AI-агента: риск-ориентированная маршрутизация, blast radius, чувствительность данных, UX ревью и калибровка порогов 8 мин чтения 11 Как настраивать Codex subagents для параллельной работы над сложными задачами Практический разбор Codex subagents: когда сложную задачу стоит разделять между specialist agents, как организовать файлы .codex/agents/*.toml, запускать незави 11 мин чтения 12 Qwen 3.8 27B в низких квантизациях: когда Q2 имеет смысл и что теряется по сравнению с Q3 Разбираем, когда Q2 для Qwen 3.8 27B помогает запустить модель на ограниченной VRAM, а когда экономия памяти оборачивается потерей качества, ошибками в коде и н 11 мин чтения