Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

2641 Mythos на домашнем ПК: когда локальные LLM догонят богов? Анализируем тренды развития локальных LLM: от LLaMA до современных гигантов. Когда обычный ПК сможет запустить модель уровня Mythos? Прогнозы и реальность. 5 мин чтения 2642 Краудсорсинг данных для AI: утопия или единственный шанс открытых моделей? Разбираем идею сбора данных сообществом для открытых моделей: aider, OMP, риски отравления и Model Collapse. Реально ли демократизировать AI? 1 мин чтения 2643 Как исправить потерю KV-кэша в llama-server: руководство по сохранению и восстановлению сессий Подробный гайд по сохранению и восстановлению KV-кэша в llama-server. Решаем проблему потери контекста при длинных сессиях. Код, настройки, советы. 7 мин чтения 2644 Athanor Lite: как я перестал бояться CUDA и полюбил локальный AI Обзор Athanor Lite — простого десктопного приложения для запуска LLM на своем ПК. Сравнение с LM Studio, Ollama, Arandu. Примеры и рекомендации. 5 мин чтения 2645 Как ускорить DeepSeek V4 Flash на Mac Studio: опыт использования oMLX и Codex для 1.6x prefill и 3x decode Реальный опыт: настройка oMLX и Codex optimization для DeepSeek V4 Flash на Mac Studio. Получаем ускорение prefill в 1.6 раза и decode в 3 раза. Пошаговый гайд 8 мин чтения 2646 FP8-магия: GLM 5.2 выжимает 79.8% на Terminal-Bench 2.1 с sglang на H200 — без компромиссов? Тестирование GLM 5.2 в FP8 и FP8 KV на H200 с sglang: результат 79.8% на Terminal-Bench 2.1. Анализ производительности, сравнение с полной точностью и советы по 4 мин чтения 2647 Psyche Network Architecture: как арендовать чужую RTX за копейки и обучить свою LLM Psyche Network Architecture позволяет объединить GPU геймеров для обучения LLM. Разбираем, как это работает, плюсы и минусы, кому подойдет, и как это меняет рын 5 мин чтения 2648 Как избежать attention drift при tool calls в агентных системах на llama.cpp: разбор проблемы и решения Разбираем, почему локальные LLM на llama.cpp 'забывают' результаты вызова инструментов. Пошаговое руководство по диагностике и устранению attention drift с прим 7 мин чтения 2649 Qualcomm GenieX: 20 токен/с на Windows — ноутбук на Snapdragon наконец-то думает быстрее, чем вы печатаете Обзор GenieX SDK от Qualcomm: запуск Gemma 4 26B и Qwen 3.6 27B на Windows с производительностью до 20 токен/с. Сравнение с llama.cpp, Ollama и облачными решени 6 мин чтения 2650 eval-harness: персонализированные оценки для локальных моделей и агентов — инструкция по применению Разбираем eval-harness — open-source CLI для кастомных бенчмарков LLM. Примеры, сравнение с альтернативами, лайфхаки для локальных и агентных систем. 5 мин чтения 2651 Как обучить LLM на малоресурсном языке: полный гайд на примере карачаево-балкарского с Qwen3-4B Пошаговое руководство по дообучению Qwen3-4B для карачаево-балкарского языка: создание токенизатора, морфологический процессор, аугментация диалектов, тонкая на 1 мин чтения 2652 Supra-Router-51M: компактная модель для маршрутизации промптов между LLM Обзор Supra-Router-51M — крошечной модели для выбора нужной LLM под задачу. Сравнение с альтернативами, примеры кода, рекомендации для разработчиков. 5 мин чтения