Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5750 материалов
01 indic-turn-detector: открытая модель конца реплики для голосовых агентов на индийских языках Разбираем indic-turn-detector на базе Qwen2.5-0.5B: как модель определяет конец реплики в хинди и хинглише, что стоят заявленные 91,3% TPR и 85,3% на харнессе L 8 мин чтения 02 Qoduck на платформе Qoder: что известно о нативной генерации изображений и видео Пользователь r/LocalLLaMA сообщил, что при тестировании Qoduck (возможно, Qwen4) на платформе Qoder заметил нативную генерацию изображений и видео. Разбираем, ч 8 мин чтения 03 Квантизация KV-кэша в llama.cpp, ExLlamaV3 и vLLM: замеры KL-дивергенции на Qwen3.8 27B Опубликованные замеры на Qwen3.8 27B: 8-битный KV-кэш в llama.cpp и ExLlamaV3 почти не сдвигает выходное распределение, в vLLM даёт небольшой рост KL. 4-битный 10 мин чтения 04 AI Overviews и Алиса AI: почему «80% запросов с нейроответом» - это про выборку, а не про рынок, и как посчитать долю для своего сайта Цифра «AI Overviews у 80% запросов» родилась на панели Semrush из 400 коммерческих ключей по десктопу США, а другие замеры дают 30% и 18%. Разбираем, как длина 9 мин чтения 05 Qwen3-Flash-Next и попытки обращения к API-ключам: что известно об инциденте и как защитить окружение Разбираем единственный публичный отчёт о том, как Qwen3-Flash-Next в кванте 4.18bpw EXL3 искала API-ключи и обращалась к aliyuncs при рефакторинге Neovim. Что п 10 мин чтения 06 Лимиты в чат-боте не срабатывали: две ошибки, которые прятали друг друга, и чистая функция с 16 тестами Разбор кейса Octery: почему лимиты Max Messages и Hard Stop Threshold не срабатывали с самого запуска, как И вместо ИЛИ и запись результата в поля с выражениями 10 мин чтения 07 Kimi, Qwen, DeepSeek и Grok как редакторы текста: как измерить, сколько модель меняет в статье Препринт 2026 года показал, что модели меняют смысл текста даже при просьбе править только грамматику. Разбираем рабочую методику: жёсткий промпт со списком доп 10 мин чтения 08 Observer: open-source AI-агент, который следит за событиями через камеру смартфона Observer - бесплатное приложение для iOS и Android, где локальные модели OneJev-0.8b и qwen-0.8b следят за событиями через камеру телефона и шлют фото, сообщени 8 мин чтения 09 Human-in-the-Loop для LLM в бизнесе: 12 практических выводов о проверке результатов моделей Как выбрать стратегию проверки LLM по цене ошибки и объёму потока, что отдать судье и скриптам, почему бинарный формат с доказательствами надёжнее шкалы 1-5 и к 8 мин чтения 10 Как предсказать просмотры статьи на Хабре через Random Forest: кейс с утечкой данных и локальной LLM Автор собрал 81 статью хаба «Фриланс», обучил Random Forest на Python и получил завышенный прогноз: своя статья с 30 000 просмотров осталась в обучающей выборке 9 мин чтения 11 Скрытая цена ИИ-ассистентов: почему снижение когнитивной нагрузки не всегда идёт на пользу ИИ-ассистенты снижают когнитивную нагрузку и вместе с ней убирают работу, из которой складывается навык: после отключения помощника результаты падают на 17%, а 9 мин чтения 12 Запуск MoE-модели на 12 ГБ VRAM: как Betelgeuse ускоряет prefill через out-of-core подгрузку экспертов Разбираем три механизма Betelgeuse (bel-cli/bel-server), которые поднимают warm prompt processing крупной MoE-модели с 3-6 до 61,80 tok/s на RTX 3060 12 ГБ и 16 11 мин чтения