Тематическая лента
Подборка материалов
Публикации, объединённые общей практической задачей.
5464
материалов
01
Легковесные агентные обвязки для локальных LLM: выбор под ограниченные ресурсы
Сравниваем LM Studio и Hermes Agent для локальных LLM до 9B на RTX 5050 8GB. Разбираем легковесные альтернативы на llama.cpp и даём чек-лист для выбора агентног
02
LLaMA.cpp Windows Manager: визуальное управление локальными LLM на Windows
LLaMA.cpp Windows Manager: визуальное управление моделями llama.cpp на Windows. Профили запуска, несколько endpoint'ов, OpenAI-совместимый API и автоматизация ч
03
RTX Pro 4500 vs A100: какой GPU выбрать для ИИ-сервера в 2026 году
Четыре RTX Pro 4500 или четыре подержанные A100 40GB? Считаем TCO, сравниваем VRAM, энергопотребление и риски б/у. Конкретные цифры для выбора GPU под ИИ-сервер
04
Водяные знаки Claude: как Anthropic маркирует AI-текст и код
Anthropic маркирует тексты Claude водяными знаками на базе SynthID-Text от Google DeepMind: паттерн встраивается в выбор слов и переживает частичное редактирова
05
Grok и защита от злоупотреблений: как xAI реагирует на обвинения в генерации CSAM
Иск против xAI: Grok обвиняется в генерации 7000 CSAM-изображений на основе реальных фото. Разбираем технические уязвимости, меры защиты и правовые последствия
06
RTX 5060 Ti для локальных LLM: практические пресеты и харнесс для проверки длинного контекста
Проверенные пресеты для Qwen3.8 27B на одной или двух RTX 5060 Ti 16GB: скорости декодирования и префилла, ограничения замеров и высококонтекстный харнесс для п
07
Gemma 120B: стратегический ход Google против OpenAI и Anthropic
Google готовит открытую мультимодальную модель Gemma на 120B параметров. Разбираем технические характеристики, влияние на OpenAI и Anthropic перед IPO и почему
08
Управление режимами мышления Qwen 3 в llama.cpp: chat_template_kwargs для гибкого переключения
Динамическое управление режимами мышления Qwen 3 в llama.cpp-server: параметры enable_thinking, reasoning_effort и preserve_thinking, готовые конфигурации для б
09
Лучшие инструменты для локального запуска Qwen 3.8 27B: выбор сообщества в 2026
Сводная таблица и цифры сообщества: MLX — 38.36 tok/s на Apple Silicon, Ollama GGUF — 11.78 tok/s, vLLM — стабильный FP8. Плюс баг FP8 в SGLang и влияние MTP.
10
Точная калибровка квантования Qwen3.8-27B: защита критических весов и влияние на качество
Какие веса Qwen3.8-27B защищать при квантовании? Разбираем KL-дивергенцию по 14 группам, неожиданные выводы об attn_v и attn_gate, чувствительность toolcalling
11
Малые LLM 9B: практичный выбор для массового пользователя с 8 ГБ VRAM и 16 ГБ ОЗУ
9B-модели работают на 8 ГБ VRAM и 16 ГБ ОЗУ без offloading, дают 30-50 токенов/с и закрывают чат, генерацию кода и работу с документами. Сравнение с 122B, табли
12
Qwen 3.8 27B: детальный разбор возможностей, тесты на RTX 5090 и инструкция по запуску
Qwen 3.8 27B: обзор GGUF, требований к 24 и 32 GB VRAM и локального запуска. Реальные тесты на RTX 5090: до 120 т/с, контекст 262K; команды llama.cpp и Docker.