Тематическая лента
Подборка материалов
Публикации, объединённые общей практической задачей.
5424
материалов
01
Запуск Qwen3 27B на 16 ГБ VRAM: квантизация IQ3_XXS, контекст 128K и 35 t/s в llama.cpp
Разбираем рабочую конфигурацию Qwen3.8 27B на 16 ГБ VRAM: квант IQ3_XXS, контекст 131072 токена, KV-кэш q4_0 и спекулятивное декодирование. Плюс честная оценка
02
Ornith1.5-9B без цензуры: почему заявленные 0/100 отказов не работают и как выбрать рабочую версию
Пользователи ищут нецензурированную Ornith1.5-9B с рейтингом отказов 0/100, но такие сборки всё равно отказывают. Разбираем, почему заявленная метрика расходитс
03
Calab: как за сутки с ИИ-агентами собрали self-hosted аналог Discord и во что это обошлось
Calab - self-hosted мессенджер для команды, собранный примерно за сутки иерархией ИИ-агентов на Claude: голосовые комнаты, чат, роли и стрим экрана. Разбираем а
04
Standard Tool: как описать LLM-инструмент один раз и не переписывать под каждый фреймворк
Один и тот же tool для LLM приходится заново оборачивать под AI SDK, MCP SDK, Genkit и LangChain. Разбираем, как описать инструмент обычным объектом с name, des
05
OpenAI Decisions API и Jev: зачем AI-агентам быстрый и дешёвый классификатор
OpenAI на Dev Day показала Decisions API: модель Luna выбирает из предзаданного списка вариантов вместо генерации текста. Разбираем, чем это близко к Jev от Typ
06
Framework Desktop в DIY-версии с AMD Ryzen AI Max 400 и 192 ГБ памяти: что даёт предзаказ тем, кто запускает LLM локально
Framework открыла предзаказ на Framework Desktop в DIY-версии с AMD Ryzen AI Max 400 Series и 192 ГБ памяти. Разбираем, какие модели реально влезают в unified m
07
Agent DevTools: локальная память для ИИ-агента на базовом Python
Agent DevTools хранит рабочий контекст ИИ-агента рядом с проектом: факты, гипотезы, решения и провалившиеся попытки не теряются между сессиями. Разбираем устано
08
Что запускать на 48 ГБ VRAM: альтернативы Qwen для локальных агентов на связке AMD
На 48 ГБ VRAM двумя AMD-картами помещаются dense-модели 24-34B, MoE с 3-12B активных параметров и с оговорками 70B в Q3-Q4. Разбираем, как проверить tool callin
09
Gemini 4 Argon: 1 млн токенов на выходе, цены API и бенчмарки новой модели Google
Google анонсировала Gemini 4 Argon: лимит генерации вырос до 1 млн токенов, известны цены API и результаты тестов. Разбираем, что подтверждено официально, а как
10
Index-Translate от BiliBili: открытые модели перевода на 150 языков для текста, документов и видео
Index-Translate от команды BiliBili Index LLM переводит текст на 150 языках, целые документы, дубляж и субтитры. Разбираем варианты 2B, 9B и 35B-A3B (preview),
11
Swift 1.5 Qwen3.8 27b от UkisAI: дообученная Qwen 27B для экономии токенов и локального запуска
Swift 1.5 Qwen3.8 27b - дообученная Qwen 27B от UkisAI с акцентом на экономию токенов. Разбираем, чем IQ4_XS отличается от Q4_K_S от Unsloth, как ведут себя реж
12
SSD-стриминг MoE-моделей: как запустить Qwen3.8-Flash-Next 177B на RTX 5060 Ti 16 ГБ
Движок Inferred Thoughts запускает Qwen3.8-Flash-Next 177B на RTX 5060 Ti 16 ГБ и 32 ГБ RAM, читая 99 ГиБ весов с SSD. Разбираем раскладку памяти, GCLOCK-кэш, l