Перейти к содержанию
Ctrl K
Telegram
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

241 Athanor Lite: как я перестал бояться CUDA и полюбил локальный AI Обзор Athanor Lite — простого десктопного приложения для запуска LLM на своем ПК. Сравнение с LM Studio, Ollama, Arandu. Примеры и рекомендации. 5 мин чтения 242 Как ускорить DeepSeek V4 Flash на Mac Studio: опыт использования oMLX и Codex для 1.6x prefill и 3x decode Реальный опыт: настройка oMLX и Codex optimization для DeepSeek V4 Flash на Mac Studio. Получаем ускорение prefill в 1.6 раза и decode в 3 раза. Пошаговый гайд 8 мин чтения 243 FP8-магия: GLM 5.2 выжимает 79.8% на Terminal-Bench 2.1 с sglang на H200 — без компромиссов? Тестирование GLM 5.2 в FP8 и FP8 KV на H200 с sglang: результат 79.8% на Terminal-Bench 2.1. Анализ производительности, сравнение с полной точностью и советы по 4 мин чтения 244 Psyche Network Architecture: как арендовать чужую RTX за копейки и обучить свою LLM Psyche Network Architecture позволяет объединить GPU геймеров для обучения LLM. Разбираем, как это работает, плюсы и минусы, кому подойдет, и как это меняет рын 5 мин чтения 245 Как избежать attention drift при tool calls в агентных системах на llama.cpp: разбор проблемы и решения Разбираем, почему локальные LLM на llama.cpp 'забывают' результаты вызова инструментов. Пошаговое руководство по диагностике и устранению attention drift с прим 7 мин чтения 246 Qualcomm GenieX: 20 токен/с на Windows — ноутбук на Snapdragon наконец-то думает быстрее, чем вы печатаете Обзор GenieX SDK от Qualcomm: запуск Gemma 4 26B и Qwen 3.6 27B на Windows с производительностью до 20 токен/с. Сравнение с llama.cpp, Ollama и облачными решени 6 мин чтения 247 eval-harness: персонализированные оценки для локальных моделей и агентов — инструкция по применению Разбираем eval-harness — open-source CLI для кастомных бенчмарков LLM. Примеры, сравнение с альтернативами, лайфхаки для локальных и агентных систем. 5 мин чтения 248 Как обучить LLM на малоресурсном языке: полный гайд на примере карачаево-балкарского с Qwen3-4B Пошаговое руководство по дообучению Qwen3-4B для карачаево-балкарского языка: создание токенизатора, морфологический процессор, аугментация диалектов, тонкая на 1 мин чтения 249 Supra-Router-51M: компактная модель для маршрутизации промптов между LLM Обзор Supra-Router-51M — крошечной модели для выбора нужной LLM под задачу. Сравнение с альтернативами, примеры кода, рекомендации для разработчиков. 5 мин чтения 250 Anthropic вернула Fable 5 и выпустила Sonnet 5: что изменилось для пользователей Anthropic снова открыла доступ к Fable 5 после перерыва и представила Sonnet 5. Разбираемся, что эти релизы значат для разработчиков и обычных пользователей. 6 мин чтения 251 Как сократить галлюцинации LLM в CLI-агентах: чистка системных промптов и экономия токенов Пошаговый гайд по оптимизации системных промптов для CLI-агентов на примере Qwen Code. Снижаем галлюцинации и экономим до 53% токенов. 9 мин чтения 252 LongCat 2.0: 1,6 триллиона параметров под MIT — новый король открытых моделей? Анонс longcat 2.0: 1.6 трлн параметров, 48 млрд активных, лицензия MIT. Сравнение с Ring 2.6, Qwen 3.5 и другими open-weight гигантами. 5 мин чтения