Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

4376 материалов
01 Политики и ИИ: как канадский депутат случайно зачитал подсказку LLM в парламенте Член парламента Нью-Брансуика зачитал с трибуны технический промпт для LLM. Разбираем, почему профессионалы скрывают использование ИИ, к каким провалам это прив 7 мин чтения 02 Дистилляция знаний в 2026: как малые модели учатся у больших и когда это выгодно Разбираем knowledge distillation: от дистилляции logits до ensemble-методов. Практические примеры сжатия LLaMA и Mistral с потерей качества менее 5%, ограничени 11 мин чтения 03 Prentis: новая AI-лаборатория с инвестициями $100M для автоматизации офисных задач Prentis — новый AI-стартап с инвестициями $100 млн при оценке $1 млрд. Основатели из LinkedIn и Zynga строят модель Hive-32B для автоматизации страховых претенз 8 мин чтения 04 KNOD в Linux: прямой сетевой оффлоадинг на AMD GPU — архитектура, настройка и первые тесты Патч KNOD для ядра Linux открывает прямой сетевой оффлоадинг на AMD GPU, снижая задержки на 50% и разгружая CPU. Разбираем архитектуру, настройку ROCm, бенчмарк 7 мин чтения 05 Structural Harness: Как заставить модели 3B–8B работать на уровне больших с помощью жёстких промптов Structural Harness — техника промптинга, которая заставляет модели 3B–8B генерировать на уровне 13B+ за счёт жёсткого Markdown-шаблона. Пошаговый фреймворк, пра 11 мин чтения 06 Локальные LLM для Text-to-SQL в WMS: тест gemma4, qwen и deepseek на задаче автоматизации счетов Практический тест локальных LLM для Text-to-SQL в корпоративной WMS: gemma4:26b, qwen и deepseek на сервере с 30 GB RAM без GPU. Только одна модель сгенерировал 8 мин чтения 07 Как мы превратили ruGPT-3 XL 2020 года в instruct-модель уровня 2026 и сравнили с Gemma-3 1B Пошаговый разбор превращения pretrain-модели ruGPT-3 XL 1.3B (2020) в instruct-модель с помощью SFT и DPO. В творческих задачах дообученная модель обходит Gemma 6 мин чтения 08 Адаптивный парсинг PDF с обратной связью от LLM: как дешёвый PyMuPDF, Azure Layout и Vision LLM работают в связке Разбираем архитектуру адаптивного парсинга PDF, где PyMuPDF используется по умолчанию, а Azure Layout и Vision LLM подключаются при обнаружении проблем. Кейсы р 9 мин чтения 09 Как собрать мульти-GPU систему для LLM за $20: тест связки 3×RTX 4060 через прямой Ethernet-кабель Реальный эксперимент: запуск модели laguna Q2_K_XL (39.7 ГБ) на 3×RTX 4060 Ti через прямой Ethernet-кабель за $20. Бенчмарки с ubatch 768-1024, TG до 28 t/s, по 11 мин чтения 10 MoE-модели с 2B активных параметров: невидимый средний класс для GPU от 4 до 12 ГБ Разбираем малоизвестные MoE-модели с ~2B активных параметров (LFM2, Mellum 2, Moondream 3.1 и др.), которые заполняют разрыв между 1B и 3B+ и оптимальны для уст 11 мин чтения 11 Yttri Meet: Как локальный AI превращает видеозвонки в структурированные данные без утечек в облако Yttri Meet расшифровывает и конспектирует видеозвонки прямо на вашем ПК — без отправки аудио в облако. Разбор архитектуры, тесты производительности и сравнение 8 мин чтения 12 Сборка на 4× RTX 3080 20 ГБ для кода: реальные бенчмарки Qwen3.6-27B и сравнение с 4× RTX 5060 Ti 4× RTX 3080 20 ГБ выдают 69 токенов/с на Qwen3.6-27B с контекстом 256K. Сборка за $2000 против гипотетических RTX 5060 Ti: сравниваем память, скорость и точност 8 мин чтения