Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

2917 Запуск GLM 5.2 GGUF на consumer железе: 492GB модель на Threadripper и RTX 5090 Как запустить гигантскую модель GLM 5.2 (492B параметров) на домашнем ПК с Threadripper и RTX 5090. GGUF, Unsloth квантование, offloading, cmake и реальные бенч 6 мин чтения 2918 $2.3B на AI-агентов из видеоигр: как General Intuition обучает роботов на Fortnite и реальных данных за 8 минут Стартап General Intuition привлёк $2.3 млрд для обучения роботов в Fortnite с переносом в реальный мир. Как видеоигры ускоряют физический AI в 2026 году. 4 мин чтения 2919 Ornith-1.0: 397B MoE, который выкачаете на ноутбук. SOTA без подвоха? Разбираем семейство Ornith-1.0: 9B, 31B, 35B и монстр 397B MoE. Сравниваем с DeepSeek, Qwen, Llama 4. Даем инструкцию по запуску на Hugging Face. Кому реально н 1 мин чтения 2920 LLM Sandbox: Реализация агента с Docker-песочницей для безопасного исполнения кода Обзор open-source инструмента LLM Sandbox: Docker-изоляция для AI-агентов, субагенты, оркестрация. Сравнение с gVisor, Firecracker, LangSmith Sandboxes. Примеры 6 мин чтения 2921 Новый сэмплер и верификатор для llama.cpp: делаем из 0.5B монстра кодинга без дообучения Новый сэмплер top-n-sigma и встроенный верификатор кода в llama.cpp превращают крошечную 0.5B модель в конкурента 2-4B. Как включить и что получится? 4 мин чтения 2922 Как снять цензуру с Gemma-4-12B без потери интеллекта: обзор метода Opus4.7 и CoT-дообучения Opus4.7 — ablation + Chain-of-Thought fine-tune для Gemma-4-12B. Как сохранить рассудок модели, убрав фильтры. Готовые квантованные веса, бенчмарки, сравнение с 4 мин чтения 2923 Как валидировать NVIDIA H100 PCIe: сравнение с H100 NVL на сервере YADRO (бенчмарки и команды) Полный гайд по валидации NVIDIA H100 PCIe: vLLM, NCCL, пропускная способность памяти. Сравнение с H100 NVL на сервере YADRO G4208P G3. Команды и типичные ошибки 9 мин чтения 2924 Loop Engineering: как автоматизировать промптинг AI-агентов с помощью пяти базовых блоков Разбираем методологию loop engineering от Anthropic и Addy Osmani. Пять примитивов для построения самоподдерживающихся AI-пайплайнов. Сравнение Claude Code и Co 8 мин чтения 2925 Q4 против Q8 для Gemma 4 31B на 4090: тупой бенчмарк, который всё расставил по местам Сравнение Q4-dynamic и Q8_0 для Gemma 4 31B на RTX 4090: VRAM, tok/s, точность tool-calling. Результаты тестов и практический выбор квантизации. 6 мин чтения 2926 Сравнение AI-агентов на сложной задаче: реальный бенчмарк Depixelizing Pixel Art Тестируем Claude Codex, Cursor, DeepAgents CLI и других AI-агентов на задаче восстановления пиксельной графики. Честный бенчмарк с кодом, промптами и результата 9 мин чтения 2927 Запуск GLM-5.2 с MTP speculative decoding на 4× DGX Spark: сборка vLLM и Triton ядра Пошаговый гайд по сборке vLLM с поддержкой MTP speculative decoding для GLM-5.2 на кластере из 4 DGX Spark. Настройка AWQ весов, Triton ядер и распределённого и 8 мин чтения 2928 Gefen — новая замена AdamW: как снизить потребление памяти на 8x при обучении нейросетей (GitHub + инструкция) Новый оптимизатор Gefen заменяет AdamW и сокращает использование VRAM на 8x. Инструкция по установке из GitHub, пример кода и сравнение с альтернативами. 6 мин чтения