Тематическая лента
Подборка материалов
Публикации, объединённые общей практической задачей.
5432
материалов
01
Малые модели против больших: что выбрать для CPU-инференса в 2026 году
Сравниваем MiniCPM5 2B Q8 и MoE Qwen3.6 35B Q2_XXS на CPU: скорость, качество, требования к памяти. Практические рекомендации по выбору модели для локального ин
02
Специализированная сборка llama.cpp для Radeon RX 7900 XTX: ускоряем Qwen 3 до 1600 токенов/с
Кастомная сборка llama.cpp для Radeon RX 7900 XTX ускоряет Qwen 3 27B до 1600 токенов/с на префилле и 60-65 токенов/с на декодировании. Разбираем ключевые оптим
03
Что реально делают с локальными LLM: 10 неочевидных сценариев, которые стоит попробовать
Разбираем практические сценарии использования локальных LLM, выходящие за рамки кода: обработка конфиденциальных данных, персональная аналитика, AI-агенты для б
04
On-device OCR для первички: как распознавать документы без отправки в облако
Локальное распознавание первичных документов на смартфоне без облака: этапы обработки, безопасность, интеграция с 1С. Узнайте, когда on-device OCR выгоден бизне
05
Как масштабировать AI-агентов до миллиарда токенов в день и не разориться: разбор подписок и лимитов
Практический разбор: какие подписки и модели выдерживают миллиард токенов в день, как обходить скрытые лимиты и оптимизировать расходы. Лайфхаки с веб-чатом GPT
06
Arch Linux + Hyprland: пошаговая настройка тайлового рабочего стола с ИИ-помощниками
Пошаговое руководство: установка Arch Linux с archinstall, настройка Hyprland (тачпад, рабочие столы, горячие клавиши) и интеграция ИИ-помощников opencode и лок
07
Почему корпоративный ИИ не взлетает: от пилота до рабочего инструмента
Разбираем, почему корпоративный ИИ застревает на стадии пилота. Как оценить реальную пользу, перейти от чат-бота к агенту и масштабировать без потери контроля.
08
Обсервабельность AI-агентов: как отслеживать вызовы LLM, работу с файлами и инструментами
Как настроить observability для AI-агентов: какие данные собирать, почему Opik и trajectory tab не всегда подходят, и как собрать локальный стек на Seq, Jaeger,
09
Запуск Gemma 4 12B и E2B на GPU и Jetson Orin: голосовое общение, лип-синк и открытый код
Практический разбор сборки голосового AI-ассистента на базе Little Gemma: запуск Gemma 4 12B на RTX PRO 4500 и Gemma 4 E2B на Jetson Orin NX, требования к желез
10
Оптимизация top-k в llama.cpp: как radix-selection ускорил Flash-Next на двух RTX 3090
Разбираем кейс radix-selection в llama.cpp: почему старый CUDA top-k fallback тормозил Qwen3-Flash-Next, как на двух RTX 3090 получили прирост декодирования с 3
11
Две RTX 3060 или одна RTX 3090 для локального LLM-сервера в 2026 году
Сравниваем две RTX 3060 12 ГБ и одну RTX 3090 24 ГБ для локального LLM-сервера: как считать VRAM, KV-кэш и offload, проверить multi-GPU и PCIe, оценить 27B dens
12
Open-weight модели под прицелом: реальные риски, интересы критиков и практический выбор
Разбираем критику open-weight моделей и публикацию WSJ: реальные угрозы, интересы поставщиков закрытых AI-систем, локальные LLM и способы снизить риски. Практич