Перейти к содержанию
Telegram
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

13 Инженерный разбор: Как Google Cloud C4 и Intel Xeon 6 обеспечивают 70% экономии на инференсе GPT OSS Технический разбор совместного теста Intel и Hugging Face: как миграция на Google Cloud C4 с процессорами Intel Xeon 6 снижает TCO для инференса MoE-модели GPT 7 мин чтения 14 NVIDIA Nemotron-Personas-India: технический разбор датасета на 21 млн синтетических персонажей для AI в Индии Полный технический анализ датасета NVIDIA Nemotron-Personas-India на 21 млн синтетических персонажей. Практические кейсы применения, сравнение с альтернативами, 7 мин чтения 15 Оптимизация SOTA OCR-модели dots.ocr для работы на устройстве: подробный разбор конвертации PyTorch в Core ML и MLX Пошаговое руководство по переносу высокопроизводительной OCR-модели dots.ocr на iOS. Конвертация PyTorch в Core ML, интеграция MLX, оптимизация под Neural Engin 11 мин чтения 16 VibeGame: как декларативный движок решает главную проблему разработки игр с ИИ VibeGame — декларативный игровой движок на three.js и ECS, созданный для борьбы с деградацией AI-генерируемого кода. Как llms.txt экономит токены и где движок р 5 мин чтения 17 BigCodeArena 2026: Сравнение o3-mini, o1-mini и Qwen2.5 через реальный запуск кода BigCodeArena — новый стандарт оценки AI-кода через реальный запуск в песочницах. Данные за 5 месяцев: лидерство o3-mini и o1-mini, сильная зависимость от языка, 5 мин чтения 18 Оптимизация Qwen3-8B на Intel Core Ultra: как спекулятивное декодирование с обрезанной draft-моделью ускоряет агентов в 1.4 раза Разбор исследования Intel по ускорению агентной модели Qwen3-8B на потребительских процессорах. Спекулятивное декодирование с обрезанной draft-моделью Qwen3-0.6 6 мин чтения 19 RTEB 2026: новый бенчмарк для embedding-моделей — гибридная оценка, 20 языков Анализ анонса RTEB 2026 — нового бенчмарка для embedding-моделей. Как гибридная стратегия с закрытыми данными решает проблему разрыва между лабораторными тестам 7 мин чтения 20 ChatGPT 5.6 в 2026 году: Архитектура, бенчмарки и практическое внедрение Полный технический разбор ChatGPT 5.6: ключевые архитектурные изменения, результаты бенчмарков для текста и кода, практические кейсы внедрения и рекомендации по 8 мин чтения 21 Собираем свой GPT: пишем трансформер с нуля на Python (часть 2) Продолжаем строить свой GPT на Python и PyTorch. Реализуем decoder-only трансформер: внимание, эмбеддинги, Feed-Forward, LayerNorm. Код, объяснения и тест генер 9 мин чтения 22 Hy3 (hy_v3) врывается в llama.cpp: MTP-декадирование на стероидах Разбор новой модели Hy3 в llama.cpp с Multi-Token Prediction. Как это ускоряет инференс, сравнение с классическим спекулятивным декодированием, примеры сборки и 3 мин чтения 23 Новые FP4 attention kernels для B300: ускорение до 1.69x — технический обзор Технический обзор новых FP4 ядер attention для NVIDIA B300. Ускорение до 1.69x, совместимость с FlashAttention-4, детали реализации и тесты производительности. 3 мин чтения 24 Детерминированный Transformer на Rust + CUDA: 0.63 Дж/токен на H100 — прорыв в энергоэффективности Новый детерминированный attention-трансформер на Rust и CUDA побил рекорд энергопотребления: 0.63 Дж/токен на H100. Разбор архитектуры, тесты и почему это меняе 6 мин чтения