Перейти к содержанию
Ctrl K
Telegram
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

529 Гибридные LLM vs Transformer: какие токены предсказывают лучше? Разбор Olmo Hybrid Исследование AI2: гибридная архитектура Olmo Hybrid предсказывает сложные токены лучше трансформеров. Сравнение на уровне каждого токена и выводы для выбора мод 3 мин чтения 530 Un0: новый AI-чип обещает энергоэффективность как у калькулятора. Верим? Бывший глава AI Databricks анонсирует стартап Unconventional AI с архитектурой Un0. Обещает 1000-кратное снижение энергопотребления. Разбираемся в хайпе и детал 3 мин чтения 531 Как запустить 3 AI-агента с разными LLM на одном старом GPU (GTX 1080 8GB): решение проблемы нехватки памяти Пошаговое руководство по запуску трёх разных LLM-агентов на GTX 1080 8GB. Квантование моделей, offloading на CPU, оптимизация памяти. Рабочие конфиги и скрипты. 7 мин чтения 532 Создаём REPL для LLM на чистом Bash: туториал с curl, jq и pipes Создайте интерактивный REPL для LLM из стандартных Unix-инструментов: curl, jq, pipes. Минимум зависимостей, максимум контроля для DevOps. 8 мин чтения 533 Запуск GLM 5.2 GGUF на consumer железе: 492GB модель на Threadripper и RTX 5090 Как запустить гигантскую модель GLM 5.2 (492B параметров) на домашнем ПК с Threadripper и RTX 5090. GGUF, Unsloth квантование, offloading, cmake и реальные бенч 6 мин чтения 534 $2.3B на AI-агентов из видеоигр: как General Intuition обучает роботов на Fortnite и реальных данных за 8 минут Стартап General Intuition привлёк $2.3 млрд для обучения роботов в Fortnite с переносом в реальный мир. Как видеоигры ускоряют физический AI в 2026 году. 4 мин чтения 535 Ornith-1.0: 397B MoE, который выкачаете на ноутбук. SOTA без подвоха? Разбираем семейство Ornith-1.0: 9B, 31B, 35B и монстр 397B MoE. Сравниваем с DeepSeek, Qwen, Llama 4. Даем инструкцию по запуску на Hugging Face. Кому реально н 1 мин чтения 536 LLM Sandbox: Реализация агента с Docker-песочницей для безопасного исполнения кода Обзор open-source инструмента LLM Sandbox: Docker-изоляция для AI-агентов, субагенты, оркестрация. Сравнение с gVisor, Firecracker, LangSmith Sandboxes. Примеры 6 мин чтения 537 Новый сэмплер и верификатор для llama.cpp: делаем из 0.5B монстра кодинга без дообучения Новый сэмплер top-n-sigma и встроенный верификатор кода в llama.cpp превращают крошечную 0.5B модель в конкурента 2-4B. Как включить и что получится? 4 мин чтения 538 Как снять цензуру с Gemma-4-12B без потери интеллекта: обзор метода Opus4.7 и CoT-дообучения Opus4.7 — ablation + Chain-of-Thought fine-tune для Gemma-4-12B. Как сохранить рассудок модели, убрав фильтры. Готовые квантованные веса, бенчмарки, сравнение с 4 мин чтения 539 Как валидировать NVIDIA H100 PCIe: сравнение с H100 NVL на сервере YADRO (бенчмарки и команды) Полный гайд по валидации NVIDIA H100 PCIe: vLLM, NCCL, пропускная способность памяти. Сравнение с H100 NVL на сервере YADRO G4208P G3. Команды и типичные ошибки 9 мин чтения 540 Loop Engineering: как автоматизировать промптинг AI-агентов с помощью пяти базовых блоков Разбираем методологию loop engineering от Anthropic и Addy Osmani. Пять примитивов для построения самоподдерживающихся AI-пайплайнов. Сравнение Claude Code и Co 8 мин чтения