Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5424 материалов
01 Swift-Qwen3.8-27B-Genesis-GGUF: что даёт компактная GGUF-версия Qwen с поддержкой зрения и 262k контекста GGUF-сборка Qwen на 27B с поддержкой зрения заняла меньше 17 ГБ и уместилась в 32 ГБ VRAM вместе с полным контекстом 262k, по данным пользователя с двумя RTX 50 9 мин чтения 02 Gem16: кастомный движок для Gemma4 12B и 26B на 16 ГБ VRAM - разбор проекта Энтузиаст собрал Gem16 - движок, который умещает Gemma4 26B с контекстом до 220k токенов в 16 ГБ VRAM. Разбираем квантизацию в стиле EXL3, заявленные prefill и 5 мин чтения 03 Ollivo: запуск локальных нейросетей на Windows без Python, CUDA и терминала Ollivo - открытое Windows-приложение на Tauri 2 и Rust, которое запускает локальные модели как обычную программу: без Python, CUDA и терминала. Разбираем движки 10 мин чтения 04 «Глаз стрекозы»: как выстроить дисциплину ИИ-исследования от таксонов до проверяемого переноса «Глаз стрекозы» переворачивает работу с ИИ: сначала фиксация направления и таксоны с паспортом, границами и источниками, потом гипотезы. Разбираем на сквозном п 11 мин чтения 05 ИИ в разработке: почему «два вечера до магазина» - ещё не конец программистов Разбираем сценарий с магазином за два вечера: что ИИ-инструменты в разработке реально ускоряют, почему после добавления скидки пропадает самовывоз и как определ 8 мин чтения 06 Корпоративная Америка переходит на открытые AI-модели: что это значит для бизнеса Financial Times сообщает, что корпоративная Америка отказывается от дорогих frontier-моделей в пользу открытых. Разбираем, что стоит за этим выбором, чем open-w 8 мин чтения 07 3D-печать как тест для LLM: нужен ли индустрии бенчмарк генерации CAD-кода Разбираем неформальный эксперимент, где LLM генерировали CAD-код для моста с пролётом 2 фута, лимитом 500 г филамента и 18 часов печати. Часть моделей не смогла 8 мин чтения 08 Plan mode у MiMo 2.6: разбор теста с SVG-пеликаном, меньше вызовов, но больше токенов Пользователь PilgrimofHaqq2 прогнал MiMo 2.6 с plan mode и без него на задаче генерации SVG-пеликана: 12 вызовов против трёх раундов правок, но 27,2 тыс. токено 7 мин чтения 09 Кластер из пяти майнинговых плат BC-250 за $800: 71 ГБ VRAM и Qwen3-Coder-Next Q4 Пять бывших майнинговых плат BC-250 дают около 71 ГБ VRAM и запускают Qwen3-Coder-Next Q4 за сумму меньше $800. Разбираем архитектуру стенда на 1Gb Ethernet, за 8 мин чтения 10 Qwen decision-model-preview: что известно о новой модели без открытых весов и стоит ли её пробовать Qwen decision-model-preview обсуждают без официального анонса и открытых весов: разбираем тест через AIHubMix с round-trip около 645 мс, лимитом в 16 вопросов и 7 мин чтения 11 llama.cpp в macOS: почему menu bar app не видит GGUF-файлы и как это обойти Пользователь llama.app обнаружил, что скачанные через UI модели лежат не как GGUF, а в виде хешированных блобов в стиле Ollama, и вручную добавленный файл интер 7 мин чтения 12 Кастомная сборка llama.cpp под одну модель: реально ли ускорить инференс в 2 раза Идея специализированной сборки llama.cpp под одну модель обещает прирост 2x и больше, но подтверждённых замеров пока нет. Разбираем, какие части движка реально 8 мин чтения