Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

2125 Session-Adaptive Orthogonal Distillation (SAOD): как сжать LLM на 744B до 100GB и запустить на 8GB VRAM Разбираем технологию Session-Adaptive Orthogonal Distillation: как сжать гигантские MoE-модели до копеечных объёмов памяти, реально ли запустить 70-100B на потр 8 мин чтения 2126 Project Zero: CPU-Only инференс LLM на чистом C — до 36 токенов/с на Xeon и поддержка Bonsai-27B Project Zero — CPU-only движок инференса LLM на чистом C99 с производительностью 36.25 токен/с на Intel Xeon. Обходит bitnet.cpp в 1.8 раза, поддерживает BitNet 9 мин чтения 2127 Санкции и дистилляция: как спор между США и Moonshot меняет правила игры для open-source AI Минфин США грозит санкциями за «промышленную дистилляцию» моделей. Разбираем конфликт с Moonshot AI, технологию дистилляции и то, как возможный запрет китайских 8 мин чтения 2128 Poolside исправила зацикливание в Laguna S 2.1: что изменилось в полной точности и FP8 Poolside выпустила патч для Laguna S 2.1, исправляющий критическую ошибку зацикливания. Узнайте, какие версии уже обновлены, как патч повлиял на стабильность и 6 мин чтения 2129 Локальный AI против облачных провайдеров: экономия, приватность и контроль Сравниваем реальные затраты на локальный запуск open-weight моделей и облачные API. Цифры, таблицы, пошаговый гайд по настройке сервера с RTX 4090 за $20/мес. У 7 мин чтения 2130 Laguna S 2.1 не запускает режим рассуждений: разбор бага шаблона чата и решение через Qwen 27B Модель Laguna S 2.1 не выводит цепочку рассуждений? Баг в параметре preserve_thinking блокирует reasoning. Пошаговая инструкция: замена chat-template на шаблон 5 мин чтения 2131 Санкции против Open Source AI: что обсуждается и как это повлияет на разработчиков Разбираем, какие санкции против open-source AI-проектов обсуждаются в ЕС, как они повлияют на русскоязычных ML-инженеров и какие практические шаги помогут сохра 9 мин чтения 2132 Archex: Локальный и детерминированный контекст для AI-агентов кодинга — обзор и тесты Разбираем Archex — open-source инструмент для создания ранжированного контекста из репозитория. Локально, без API-ключей, с recall 0.95 и холодным стартом 0 мс. 6 мин чтения 2133 Google Cloud: как корпоративный AI принёс рекордную прибыль и оправдал миллиардные инвестиции Выручка Google Cloud взлетела на 82% до $24,8 млрд благодаря AI-решениям для enterprise. Детальный разбор продуктов, инфраструктуры, CapEx в $195-205 млрд и бэк 6 мин чтения 2134 Antares: компактные open-weight модели для точной локализации уязвимостей в коде Antares — компактные open-weight модели для vulnerability localization, которые находят уязвимую строку кода за миллисекунды на CPU. Разбираем архитектуру, резу 9 мин чтения 2135 Модель Kimi K3 из Китая: как ограничения безопасности в США становятся тормозом для американского AI Запуск Kimi K3 от Moonshot AI вскрыл парадокс: пока США ужесточают контроль, Китай ускоряет разработку. Разбираем, как безопасность стала тормозом для американс 7 мин чтения 2136 Grabette: открытая система для обучения роботов без робота — сбор данных с помощью ручного захвата Pollen Robotics представила Grabette — открытую систему для сбора демонстраций манипуляций без робота. Портативный захват с камерами и IMU за ~490€ записывает д 6 мин чтения