Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

841 CPU-инструкции и offload в LLM: Intel vs AMD — что действительно влияет на скорость? Узнайте, что действительно влияет на скорость offload в LLM: наборы инструкций CPU или пропускная способность шины и памяти. Сравниваем Intel и AMD для локально 7 мин чтения 842 Валидность контекста в AI-агентах: как устаревшие данные незаметно ломают задачи и почему проверка состояния решает проблему Устаревшие данные в контексте AI-агента незаметно ломают задачи. Разбираем, чем устаревание отличается от потери контекста, как слой валидности проверяет данные 5 мин чтения 843 Мир-модели и роботы-гуманоиды: как новый стартап создателя Dreamer учит ИИ действовать в непредвиденных ситуациях Разбираем подход Даниджара Хафнера к обучению ИИ через мир-модели: от Dreamer и PlaNet до стартапа 2025 года. Как роботы учатся на воображении, а не на реальных 6 мин чтения 844 Малые модели против больших: что выбрать для CPU-инференса в 2026 году Сравниваем MiniCPM5 2B Q8 и MoE Qwen3.6 35B Q2_XXS на CPU: скорость, качество, требования к памяти. Практические рекомендации по выбору модели для локального ин 4 мин чтения 845 Специализированная сборка llama.cpp для Radeon RX 7900 XTX: ускоряем Qwen 3 до 1600 токенов/с Кастомная сборка llama.cpp для Radeon RX 7900 XTX ускоряет Qwen 3 27B до 1600 токенов/с на префилле и 60-65 токенов/с на декодировании. Разбираем ключевые оптим 4 мин чтения 846 Что реально делают с локальными LLM: 10 неочевидных сценариев, которые стоит попробовать Разбираем практические сценарии использования локальных LLM, выходящие за рамки кода: обработка конфиденциальных данных, персональная аналитика, AI-агенты для б 5 мин чтения 847 On-device OCR для первички: как распознавать документы без отправки в облако Локальное распознавание первичных документов на смартфоне без облака: этапы обработки, безопасность, интеграция с 1С. Узнайте, когда on-device OCR выгоден бизне 6 мин чтения 848 Как масштабировать AI-агентов до миллиарда токенов в день и не разориться: разбор подписок и лимитов Практический разбор: какие подписки и модели выдерживают миллиард токенов в день, как обходить скрытые лимиты и оптимизировать расходы. Лайфхаки с веб-чатом GPT 6 мин чтения 849 Arch Linux + Hyprland: пошаговая настройка тайлового рабочего стола с ИИ-помощниками Пошаговое руководство: установка Arch Linux с archinstall, настройка Hyprland (тачпад, рабочие столы, горячие клавиши) и интеграция ИИ-помощников opencode и лок 9 мин чтения 850 Почему корпоративный ИИ не взлетает: от пилота до рабочего инструмента Разбираем, почему корпоративный ИИ застревает на стадии пилота. Как оценить реальную пользу, перейти от чат-бота к агенту и масштабировать без потери контроля. 4 мин чтения 851 Обсервабельность AI-агентов: как отслеживать вызовы LLM, работу с файлами и инструментами Как настроить observability для AI-агентов: какие данные собирать, почему Opik и trajectory tab не всегда подходят, и как собрать локальный стек на Seq, Jaeger, 7 мин чтения 852 Запуск Gemma 4 12B и E2B на GPU и Jetson Orin: голосовое общение, лип-синк и открытый код Практический разбор сборки голосового AI-ассистента на базе Little Gemma: запуск Gemma 4 12B на RTX PRO 4500 и Gemma 4 E2B на Jetson Orin NX, требования к желез 4 мин чтения