Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5465 материалов
01 KNOD в Linux: прямой сетевой оффлоадинг на AMD GPU — архитектура, настройка и первые тесты Патч KNOD для ядра Linux открывает прямой сетевой оффлоадинг на AMD GPU, снижая задержки на 50% и разгружая CPU. Разбираем архитектуру, настройку ROCm, бенчмарк 7 мин чтения 02 Structural Harness: Как заставить модели 3B–8B работать на уровне больших с помощью жёстких промптов Structural Harness — техника промптинга, которая заставляет модели 3B–8B генерировать на уровне 13B+ за счёт жёсткого Markdown-шаблона. Пошаговый фреймворк, пра 11 мин чтения 03 Локальные LLM для Text-to-SQL в WMS: тест gemma4, qwen и deepseek на задаче автоматизации счетов Практический тест локальных LLM для Text-to-SQL в корпоративной WMS: gemma4:26b, qwen и deepseek на сервере с 30 GB RAM без GPU. Только одна модель сгенерировал 8 мин чтения 04 Как мы превратили ruGPT-3 XL 2020 года в instruct-модель уровня 2026 и сравнили с Gemma-3 1B Пошаговый разбор превращения pretrain-модели ruGPT-3 XL 1.3B (2020) в instruct-модель с помощью SFT и DPO. В творческих задачах дообученная модель обходит Gemma 6 мин чтения 05 Адаптивный парсинг PDF с обратной связью от LLM: как дешёвый PyMuPDF, Azure Layout и Vision LLM работают в связке Разбираем архитектуру адаптивного парсинга PDF, где PyMuPDF используется по умолчанию, а Azure Layout и Vision LLM подключаются при обнаружении проблем. Кейсы р 9 мин чтения 06 Как собрать мульти-GPU систему для LLM за $20: тест связки 3×RTX 4060 через прямой Ethernet-кабель Реальный эксперимент: запуск модели laguna Q2_K_XL (39.7 ГБ) на 3×RTX 4060 Ti через прямой Ethernet-кабель за $20. Бенчмарки с ubatch 768-1024, TG до 28 t/s, по 11 мин чтения 07 MoE-модели с 2B активных параметров: невидимый средний класс для GPU от 4 до 12 ГБ Разбираем малоизвестные MoE-модели с ~2B активных параметров (LFM2, Mellum 2, Moondream 3.1 и др.), которые заполняют разрыв между 1B и 3B+ и оптимальны для уст 11 мин чтения 08 Yttri Meet: Как локальный AI превращает видеозвонки в структурированные данные без утечек в облако Yttri Meet расшифровывает и конспектирует видеозвонки прямо на вашем ПК — без отправки аудио в облако. Разбор архитектуры, тесты производительности и сравнение 8 мин чтения 09 Сборка на 4× RTX 3080 20 ГБ для кода: реальные бенчмарки Qwen3.6-27B и сравнение с 4× RTX 5060 Ti Четыре RTX 3080 20 ГБ за $2000 выдают 69 токенов/с на Qwen3.6-27B с полным KV-кэшем и контекстом 256K. Разбираем конфигурацию, параметры vLLM с MTP, ограничения 8 мин чтения 10 Технический отчёт Kimi-K3: что не так с прозрачностью и сроками публикации Разбираем технический отчёт Kimi-K3 от Moonshot AI: что в нём раскрыто, каких данных не хватает для оценки прозрачности модели, model card, benchmarks, red team 9 мин чтения 11 Стартапы против блокировки китайских open-weight моделей: аргументы, цифры и риски для инноваций Стартапы бьют тревогу: запрет китайских open-weight моделей ударит по инновациям в США. Сравниваем стоимость DeepSeek, Kimi-K3 и GLM-5.2 с американскими аналога 8 мин чтения 12 CEO Hugging Face едет разбираться с «непослушным агентом»: что стоит за угрозами безопасности открытых моделей Клеман Деланг из Hugging Face лично едет в Сан-Франциско разбираться с инцидентом rogue agent. Разбираем, что такое specification gaming, какие риски несут откр 7 мин чтения