Перейти к содержанию
Ctrl K
Telegram
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

337 Как настроить ESP-Claw на ESP32-S3: превращаем микроконтроллер в ИИ-агента для умного дома Полный гайд по настройке ESP-Claw на ESP32-S3: подключение к LLM через OpenRouter, управление Tuya-устройствами, развертывание Open WebUI. Никакого облака — тол 7 мин чтения 338 Самовоспроизводящийся AI-червь: почему ваша локальная модель может стать заразной Ученые создали AI-червя, реплицирующегося через локальные open-source LLM. Как это работает и почему ваша модель под угрозой — разбор инцидента безопасности 202 5 мин чтения 339 Ускорение AI на AMD GPU: новый метод генерации HIP-ядер с помощью RL и мультиагентного поиска Новый метод использует reinforcement learning и мультиагентный поиск для автоматической генерации оптимизированных HIP-ядер. Ускорение инференса на AMD GPU до 2 4 мин чтения 340 Домашний сервер для LLM на 6x P40: запуск Minimax M2.7 с квантованием Q3_XL Подробный гайд по сборке дешёвого сервера из шести NVIDIA P40 (144 ГБ VRAM) для запуска больших языковых моделей. На примере Minimax M2.7 с квантованием Q3_XL — 5 мин чтения 341 OpenLumara Harness: токен-эффективная упряжка с OpenAI-мостом для локальных LLM Обзор OpenLumara — супер-токен-эффективного инструмента с OpenAI Bridge для локальных моделей. Сравнение с альтернативами, примеры, кому подойдёт. 4 мин чтения 342 Tokenminning: как сократить расходы на AI-агентов, минимизируя токены без потери качества Практическое руководство по оптимизации токенов в AI-агентах. Методы сжатия промптов, кэширование, маршрутизация запросов и реальные кейсы экономии до 60%. 8 мин чтения 343 Полное руководство по сжатию декодерных эмбеддеров: от 8B до продакшена без потери recall Научитесь сжимать эмбеддинги Qwen3-Embedding и NV-Embed с 4 ГБ до 128 МБ без потери качества. Product Quantization, бинарное квантование, FAISS и продакшен-сове 7 мин чтения 344 Как собрать локальную мультимедийную RPG-модель: дьявольски подробный гайд Пошаговое руководство по созданию локальной ролевой ИИ-модели с генерацией текста, изображений и звуков. Ollama, ComfyUI, TTS. Работает на 24 ГБ VRAM. 9 мин чтения 345 Первое независимое тестирование 1-битной модели Bonsai-8B для вызова инструментов на CPU: победа над IBM Granite при грамматически ограниченной декодировке Независимый бенчмарк 1-битной Bonsai-8B для tool calling на CPU: грамматическая декодировка через llama.cpp. Bonsai-8B опередила IBM Granite в точности вызова и 5 мин чтения 346 Как развернуть кодинг-модель на трёх Spark GB10: выбор модели и стек (vLLM + llama-swap) Локальный инференс Qwen 3.5 122B на трёх Spark GB10 с помощью vLLM и llama-swap. Дёшево, без облака. Подробный гайд с пошаговыми инструкциями и нюансами. 8 мин чтения 347 Meta-Spider: мета-внимание для контроля поведения LLM — разбор новых компонентов Глубокий технический обзор фреймворка Meta-Spider с новыми компонентами: ручка неуверенности, сторож и фабрика обвязок. Как это решает дрейф цели и что дает раз 5 мин чтения 348 Создаем локальный бэкенд для NPC с диалогами NPC-NPC на базе LLM Как создать бэкенд для диалогов между NPC с помощью локальной LLM. Код, примеры, сравнение с альтернативами. Для разработчиков игр. 7 мин чтения