Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5545 материалов
01 Aventura: Когда SillyTavern слишком глуп, а OpenRouter слишком дорог Полное руководство по установке Aventura — приватного фронтенда для ролевых игр и творческого письма с локальными моделями, долгосрочной памятью и анти-слоп сис 8 мин чтения 02 Критическая дыра в llama.cpp: как проверить версию и не стать жертвой RCE-атаки Подробный гайд по критической уязвимости в llama.cpp (CVE в разработке). Как проверить свою версию, понять механизм атаки через n_discard и защититься от удалён 9 мин чтения 03 Как Llama 3.1 предсказывает суицидальные мысли лучше психологов: разбираем исследование с 75% точностью Глубокий разбор исследования, где perplexity от Llama 3.1 предсказывает суицидальный риск с 75% точностью. Код, пайплайн, ошибки и почему это работает. 7 мин чтения 04 Когда Sonnet 3.7 умирает: что писать на Mac M2 Ultra с 192GB памяти GLM 4.7, 4.5 Air, Intellect 3 — тестируем локальные модели для творчества на Mac. Сравнение качества, скорости, потребления памяти. 6 мин чтения 05 Построение локального AI-сервера с доступом к файлам: выбор железа, Proxmox, Docker и GPU Подробное руководство по сборке и настройке локального AI-сервера с доступом к файлам. Выбор железа (Epyc, ZFS), настройка Proxmox, Docker и серверных GPU. 7 мин чтения 06 Как создать и обучить свою первую языковую модель с нуля: разбор toyGPT Пошаговый разбор создания и обучения первой языковой модели с нуля на PyTorch. Архитектура mHC-трансформера, подготовка данных, обучение на GPU. 6 мин чтения 07 Когда одного сервера мало: мульти-нод кластер для локальных LLM на примере Kimi K2 Практическое руководство по настройке кластера из 3 узлов Strix Halo для запуска Kimi K2 Thinking. Сравнение vLLM и llama.cpp, производительность 9 t/s, квантов 11 мин чтения 08 M2 Ultra vs 2x RTX 3090: какую бомбу купить для локального запуска 70B моделей Детальный анализ железа для локального запуска 70B моделей. Сравниваем стоимость, скорость генерации, удобство и скрытые расходы. Реальные цифры и практические 8 мин чтения 09 RLHF vs DPO: полное руководство по выравниванию ИИ и управлению отказами Глубокое сравнение RLHF и DPO для выравнивания языковых моделей. Почему ИИ отказывается отвечать, математическая интуиция методов, практические шаги по исправле 6 мин чтения 10 AnythingLLM vs CLINE на llama.cpp: кто реально быстрее и почему Технический разбор архитектурных различий AnythingLLM и CLINE, тесты производительности на llama.cpp, оптимизации для локальных LLM. Практические результаты. 9 мин чтения 11 Как дообучить 7B-модель для reasoning на бесплатном Colab с GRPO и TRL: пошаговый гайд Подробный гайд по тонкой настройке 7B-модели для рассуждений на бесплатном Google Colab (T4) с использованием GRPO и TRL. Оптимизация памяти в 7 раз. 6 мин чтения 12 AI-агенты генерируют код быстрее, чем вы успеваете его проверить. Как не утонуть в техническом долге? Практическое руководство по управлению качеством кода, который генерируют AI-агенты. Как организовать ревью, когда код создается быстрее, чем его можно проверит 8 мин чтения