Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

1945 Локальные LLM для Text-to-SQL в WMS: тест gemma4, qwen и deepseek на задаче автоматизации счетов Практический тест локальных LLM для Text-to-SQL в корпоративной WMS: gemma4:26b, qwen и deepseek на сервере с 30 GB RAM без GPU. Только одна модель сгенерировал 8 мин чтения 1946 Как мы превратили ruGPT-3 XL 2020 года в instruct-модель уровня 2026 и сравнили с Gemma-3 1B Пошаговый разбор превращения pretrain-модели ruGPT-3 XL 1.3B (2020) в instruct-модель с помощью SFT и DPO. В творческих задачах дообученная модель обходит Gemma 6 мин чтения 1947 Адаптивный парсинг PDF с обратной связью от LLM: как дешёвый PyMuPDF, Azure Layout и Vision LLM работают в связке Разбираем архитектуру адаптивного парсинга PDF, где PyMuPDF используется по умолчанию, а Azure Layout и Vision LLM подключаются при обнаружении проблем. Кейсы р 9 мин чтения 1948 Как собрать мульти-GPU систему для LLM за $20: тест связки 3×RTX 4060 через прямой Ethernet-кабель Реальный эксперимент: запуск модели laguna Q2_K_XL (39.7 ГБ) на 3×RTX 4060 Ti через прямой Ethernet-кабель за $20. Бенчмарки с ubatch 768-1024, TG до 28 t/s, по 11 мин чтения 1949 MoE-модели с 2B активных параметров: невидимый средний класс для GPU от 4 до 12 ГБ Разбираем малоизвестные MoE-модели с ~2B активных параметров (LFM2, Mellum 2, Moondream 3.1 и др.), которые заполняют разрыв между 1B и 3B+ и оптимальны для уст 11 мин чтения 1950 Yttri Meet: Как локальный AI превращает видеозвонки в структурированные данные без утечек в облако Yttri Meet расшифровывает и конспектирует видеозвонки прямо на вашем ПК — без отправки аудио в облако. Разбор архитектуры, тесты производительности и сравнение 8 мин чтения 1951 Сборка на 4× RTX 3080 20 ГБ для кода: реальные бенчмарки Qwen3.6-27B и сравнение с 4× RTX 5060 Ti Четыре RTX 3080 20 ГБ за $2000 выдают 69 токенов/с на Qwen3.6-27B с полным KV-кэшем и контекстом 256K. Разбираем конфигурацию, параметры vLLM с MTP, ограничения 8 мин чтения 1952 Технический отчёт Kimi-K3: что не так с прозрачностью и сроками публикации Разбираем технический отчёт Kimi-K3 от Moonshot AI: что в нём раскрыто, каких данных не хватает для оценки прозрачности модели, model card, benchmarks, red team 9 мин чтения 1953 Стартапы против блокировки китайских open-weight моделей: аргументы, цифры и риски для инноваций Стартапы бьют тревогу: запрет китайских open-weight моделей ударит по инновациям в США. Сравниваем стоимость DeepSeek, Kimi-K3 и GLM-5.2 с американскими аналога 8 мин чтения 1954 CEO Hugging Face едет разбираться с «непослушным агентом»: что стоит за угрозами безопасности открытых моделей Клеман Деланг из Hugging Face лично едет в Сан-Франциско разбираться с инцидентом rogue agent. Разбираем, что такое specification gaming, какие риски несут откр 7 мин чтения 1955 Как читать model card LLM в 2026: evaluation awareness и расхождение safety-баллов между бенчем и продом Evaluation awareness — способность LLM отличать тесты от реальной работы — завышает safety-метрики в model card на 20+ процентных пунктов. Разбираем механику об 7 мин чтения 1956 Дистилляция LLM: почему «ученик» не может превзойти «учителя» и как это связано с новыми регуляциями Технический разбор: почему дистиллированная модель не может быть лучше оригинала. Кейс Fable и K3, таймлайны, риски ошибочных законов для open-source. Факты, ци 8 мин чтения