Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5432 материалов
01 Ollama: удобный запуск локальных LLM или компромисс по качеству? Разбираем плюсы, минусы и альтернативы Разбираем, почему Ollama удобна для локального запуска LLM, но может ограничивать опытных пользователей. Сравниваем Ollama с llama.cpp, LM Studio и Jan по гибко 13 мин чтения 02 Warrior Quest: локальная LLM для NPC в детерминированной RPG без облака Разбираем Warrior Quest, где локальная LLM отвечает за NPC и диалоги, а квесты, канон и состояние мира контролирует игровой код. Узнайте, зачем проекту офлайн-з 15 мин чтения 03 IFM выпустила линейку K2-Horizon: что известно о моделях 7B, 32B, 36B и 375B Разбираем состав линейки IFM K2-Horizon: dense-модели 7B и 32B, MoE-варианты 36B A4B и 375B A23B. Объясняем статус 32B stage1 checkpoint, разницу между активным 11 мин чтения 04 Как Cursor выстраивает доверие к ИИ-агентам: верификация, evals и жесткие CI-проверки Разбираем, как Cursor повышает надежность ИИ-агентов с помощью локального запуска кода, трейсинга, skills, feature map, evals и строгих CI-проверок. Практическа 11 мин чтения 05 TAK-квантизация Qwen3.8-27B: как task-aware подход почти догнал BF16 по качеству reasoning при меньшем размере TAK-квантизация распределяет ограниченный битрейт Qwen3.8-27B по чувствительности тензоров и приблизила качество reasoning к BF16 на целевом бенчмарке при сопос 12 мин чтения 06 Как не потерять часы рендера из-за ошибки AI-ассистента: провал ThinkingCap при исправлении видеоскрипта Шестичасовой рендер может оказаться под угрозой из-за одной команды AI-ассистента, если агенту открыт доступ к каталогу результатов. Разбираем кейс ThinkingCap, 14 мин чтения 07 BF16 или Q8 для локальной LLM: заметна ли разница на практике Узнайте, есть ли реальная разница между BF16 и Q8 для локальных LLM на примере Qwen 3 27B. Сравниваем требования к памяти, скорость, качество ответов и даём мет 4 мин чтения 08 Qwen3.5 0.8B на CPU: тест кастомного движка H128/Q4-G32-DOT4 против llama.cpp и ik_llama.cpp Практический разбор запуска Qwen3.5 0.8B на Ryzen 9 9955HX3D в Linux: кастомный CPU-движок с H128/Q4-G32-DOT4 показал до 2,9x по prefill и на 53% больший throug 13 мин чтения 09 Глоссарий AI-терминов 2026: что означают LLM, RAG, MCP и opaque recurrence Разберите ключевые AI-термины 2026 года: LLM, training, inference, fine-tuning, reasoning, token throughput, RAG, MCP и opaque recurrence. Поймите, как эти поня 23 мин чтения 10 Gemma 5 и ловушка бенчмарков: почему локальные модели теряют индивидуальность Почему локальные LLM класса 30B всё чаще похожи друг на друга, чем Gemma 4 31B отличается от Qwen по стилю и что ждать от философии Gemma 5. 9 мин чтения 11 Как dual-GPU связка Radeon RX 7900 GRE и RX 480 влияет на llama.cpp в Vulkan в 2026 году Разбираем, что реально может дать Radeon RX 480 в связке с RX 7900 GRE для llama.cpp через Vulkan: дополнительный резерв VRAM, KV-кэш, длинный контекст и ограни 17 мин чтения 12 Jenny: open-source десктоп-харнесс для локальных LLM с IDE и защитой от сбоев Jenny объединяет локальный чат, IDE, tool calling и защиту от опасных команд в одном Windows-приложении с открытым кодом. В статье разобраны установка, подключе 8 мин чтения