Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5501 материалов
01 Оптимизация vLLM: как обслуживать Qwen 3.5 в Thinking и Non-Thinking режимах без двойной загрузки в VRAM Гайд по обслуживанию Qwen 3.5 в двух режимах через один экземпляр vLLM. Экономим видеопамять на 50% с помощью chat template kwargs. 7 мин чтения 02 DIY голосовой ассистент на Rockchip: решаем проблему нормализации текста для TTS (омонимы, числа, сокращения) Практическое руководство по реализации нормализации текста для синтеза речи в голосовом ассистенте на платформе Rockchip. Решаем проблемы омонимов, чисел и сокр 8 мин чтения 03 Контекстный TTS для локального запуска: архитектура, требования к железу и методы оценки Полное руководство по контекстному TTS для локального запуска. Архитектура на 520M параметров, требования к VRAM, методы оценки качества речи. Актуально на февр 8 мин чтения 04 Qwen3.5 в production: личный опыт использования для разработки на JavaScript, Go и Rust Личный опыт развертывания Qwen3.5 для генерации кода в продакшене. Метрики, квантование, интеграция с JavaScript, Go и Rust проектами. Сравнение с Claude. 7 мин чтения 05 Qwen3.5 35B на видеокарте 16 ГБ: настройка для 45 токенов/с и контекста 128K Детальное руководство по запуску Qwen3.5 35B на видеокарте с 16 ГБ VRAM. Настройка LM Studio и llama.cpp для скорости 45 токенов/с и контекста 128K. Актуально н 7 мин чтения 06 Провал квантования: почему GGUF-версии Minimax M2.5 работают плохо и как этого избежать Почему квантованные Minimax M2.5 модели выдают бессмыслицу. Сравнение уровней квантования Q1-Q4 на H200. Пошаговое руководство по правильному квантованию для ст 6 мин чтения 07 Уязвимость LLM к невидимым Unicode-символам: тестирование обратной CAPTCHA и методы защиты Как невидимые Unicode-символы взламывают LLM-агентов. Практическое руководство по тестированию обратной CAPTCHA и методам защиты на 2026 год. 5 мин чтения 08 GRPO с нуля: полное руководство по реализации, ablation studies и оптимизация памяти на RTX 4090 Пошаговое руководство по реализации GRPO с нуля, ablation studies и оптимизации памяти для RTX 4090. Используем Qwen2.5-Math-1.5B и reinforcement learning. 9 мин чтения 09 Как настроить Qwen 14B для победы над GPT-4o: дистилляция знаний на примере головоломок NYT Connections Пошаговый гайд по тонкой настройке Qwen 14B через дистилляцию от Claude 4.5 Sonnet с QLoRA. Как открытая модель побеждает GPT-4o в нишевой задаче. 10 мин чтения 10 Как создать сложную LLM-симуляцию с памятью на Python: разбор кейса Noodle Shop с GLM 4.7 и Qwen Пошаговое руководство по созданию сложной LLM-симуляции с системой памяти. Разбираем кейс ресторана лапши с использованием GLM 4.7 30B и Qwen 2.5 35B. 9 мин чтения 11 Mixture of Experts (MoE) в трансформерах: полное руководство по архитектуре и настройке в Hugging Face Полное руководство по Mixture of Experts (MoE) в трансформерах. Архитектура, принцип работы sparse моделей, настройка в Hugging Face и практические советы на 20 9 мин чтения 12 Pi*0.6: Как применить метод Physical Intelligence для постобучения роботов без сложного RL Гайд по применению метода Physical Intelligence Pi*0.6 для постобучения роботов. Оффлайн-RL, ACT policy, классификация действий. Практический разбор без хайпа. 8 мин чтения