Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5545 материалов
01 Siliconflow: дешевый API для Qwen Coder или ловушка с квантованными моделями? Практический разбор Практический разбор Siliconflow API: дешевый Qwen Coder или квантованный кошмар? Тестируем вывод кода, сравниваем с конкурентами, находим подводные камни. 6 мин чтения 02 Abliteration на практике: как убрать «цветистость» из ответов LLM без дообучения модели Полное руководство по Abliteration — технике удаления напыщенных ответов LLM. Используем Heretic, редактируем веса модели, работаем с residual паттернами. Практ 7 мин чтения 03 Автоматическая оптимизация промптов для мультимодальных агентов: кейс беспилотного автомобиля Практическое руководство по автоматической оптимизации промптов для vision-language моделей в системах автономного вождения. Кейсы, ошибки, пошаговый план. 8 мин чтения 04 Выбор LLM для Mac Studio M4 Max: практический гайд по инференсу Qwen2.5 для архитектуры как код Практическое руководство по выбору и запуску Qwen2.5-72B на Mac Studio M4 Max для генерации инфраструктуры. Скорость токенов, настройка MLX, сравнение моделей. 9 мин чтения 05 Обход блокировок ChatGPT: автоматическое обновление DNS-правил через GitHub Actions без VPN Полное руководство по настройке автообновления DNS-правил для доступа к ChatGPT без VPN. NextDNS, Cloudflare, GitHub Actions. 9 мин чтения 06 192GB VRAM, Claude Code и vLLM: как запустить локального монстра за $0.03/запрос Полное руководство по настройке vLLM для локального запуска Claude Code на 192GB VRAM с tensor-parallel-size 2, контекстом 163840 токенов и оптимизациями произв 7 мин чтения 07 Куда девается память при инференсе: пейджинг KV cache и магия radix trie в Tailor Разбираем архитектуру paged KV cache, prefix cache на radix trie и строим мини-инференс-движок с нуля. Практический гайд на примере Tailor. 9 мин чтения 08 Слэш-команды в Claude Code и Warp: как автоматизировать 80% рутины разработчика Пошаговый гайд по созданию слэш-команд в Claude Code и Warp для автоматизации PR, ревью кода, документации и других рутинных задач разработчика. 7 мин чтения 09 Метод «Принудительных связей»: как использовать ИИ для креативного мозгового штурма, а не для генерации шаблонов Пошаговый гайд по методу случайного объекта для ИИ-мозгового штурма. Практические промпты, ошибки и примеры для дизайнеров, маркетологов, разработчиков. 9 мин чтения 10 Полное руководство по запуску NSFW-сторителлинга на локальной LLM: от MythoMax до SillyTavern Пошаговый гайд по запуску интерактивного NSFW-сторителлинга на локальной LLM. Установка MythoMax-l2-13b, SillyTavern, настройка KoboldCCP, оптимизация под AMD R 9 мин чтения 11 Как запустить Stable Diffusion и текстовые LLM на ноутбуке с 4 ГБ VRAM: полное руководство Подробное руководство по запуску Stable Diffusion и текстовых LLM на ноутбуке с 4 ГБ видеопамяти. Оптимизация моделей, сравнение Ollama и LM Studio, работа с кв 5 мин чтения 12 Как запустить KimiLinear-48B с MLA KV Cache в llama.cpp: инструкция по сборке и экономия VRAM с 140GB до 15GB Пошаговая инструкция по сборке llama.cpp с поддержкой MLA KV Cache для запуска KimiLinear-48B на домашнем железе. Экономия видеопамяти в 10 раз. 8 мин чтения