Все выпуски
Архив публикаций
Все материалы AiManual в единой хронологической ленте.
5161
Интеграция TurboQuant в MLX Studio: инструкция по квантованию моделей для Apple Silicon
Полное руководство по интеграции TurboQuant в MLX Studio для квантования LLM под Apple Silicon. Шаги, ошибки, настройки на 2026 год.
5162
Litellm взломали: три альтернативы, которые не сломают вашу цепочку поставок
Обзор безопасных AI gateway после компрометации Litellm. Сравнение Bifrost 2.1, Kosong 0.9 и Helicone 1.6 на 2026 год по языку, производительности и лицензии.
5163
Весенний провал: SQL-инъекции в Spring AI и дыры в ONNX взрывают безопасность ИИ-стека
Критические уязвимости в Spring AI 3.5.0 и ONNX Runtime 1.20.0 позволяют проводить SQL-инъекции через векторные БД и обходить проверки моделей. Анализ CVE и защ
5164
Тупой бенчмарк для LLM: как 76% моделей галлюцинируют на простейшем вопросе 'current date'
Эксперимент: 76% языковых моделей дают неверный ответ на вопрос 'current date'. Почему LLM галлюцинируют на простом и как это тестировать. Методика тупого бенчм
5165
Как стабилизировать multi-agent циклы на локальных LLM: разбор архитектуры и промптов
Практический разбор EvidionAI для создания стабильных multi-agent систем на локальных LLM. Решение проблем doubt loops, skeptic agent и маршрутизации. Актуально
5166
TurboQuant от Google: как сжать KV-кэш и когда ждать квантование моделей
Новая технология TurboQuant от Google Research обещает сжать KV-кэш в 10 раз. Когда ждать квантование моделей и как это повлияет на локальный AI в 2026 году.
5167
Ни одна модель не знает чувашский: EduBench-RU проверил 22 LLM для российских учителей
Первый бенчмарк EduBench-RU тестирует 22 AI-модели для задач учителей: технологические карты ФГОС, задания ОГЭ, перевод на чувашский. Результаты шокируют.
5168
Per-row MSE quantization: практическое руководство по сжатию LLM до 15MB с минимальной потерей качества
Пошаговый гайд по per-row MSE quantization для сжатия больших языковых моделей. Код на PyTorch, сравнение BPB, оптимизация под edge-устройства.
5169
Локальный Qwen 3.5 на 16 ГБ GPU против облачного Kimi K2.5: тест скорости и точности
Детальное сравнение локального запуска Qwen 3.5 с квантованием unsloth q2_k_xl на 16 ГБ GPU и облачного Kimi K2.5. Метрики скорости 120 t/s, настройка LM Studio
5170
Полный обзор Nemotron-3 Nano 4B Uncensored: как удалить GenRM и использовать агрессивную версию
Пошаговая инструкция по удалению GenRM из Nemotron-3 Nano 4B для полного снятия цензуры. Технические детали, сравнение с аналогами и примеры использования на 20
5171
CQ от Mozilla: обзор 'Stack Overflow для AI-агентов' и как это исправит устаревший код
Обзор CQ от Mozilla — системы обмена знаниями для AI-агентов, которая решает проблему устаревания знаний, экономит токены и исправляет устаревшие API.
5172
Почему OpenAI закрывает Sora: причины неожиданного решения и будущее генерации видео
Анализ закрытия видео-генератора Sora от OpenAI: финансовые проблемы, конкуренция с Google Veo 3.1, скандалы и будущее технологии.