Тематическая лента
Подборка материалов
Публикации, объединённые общей практической задачей.
5545
материалов
01
Локальный RAG для документов: как выбрать железо для скорости 30-40 токенов/сек на TXT, DOC, PDF
Экспертный гайд по выбору железа для локального RAG с производительностью 30-40 токенов/сек. Сравнение Apple Silicon, Nvidia, варианты развертывания, оптимизаци
02
Слепой тест LLM для юристов: как мы устроили соревнование моделей и что из этого вышло
Практический гайд по проведению слепого теста LLM в юриспруденции. Методология, ошибки, результаты сравнения моделей и неочевидные выводы.
03
Layer Pruning на практике: как удалить 7 слоёв из TinyLlama для ускорения на 30% с минимальной потерей качества
Практический гайд по layer pruning для TinyLlama: пошаговый эксперимент, метрики качества, код PyTorch и неожиданные выводы про переобучение LLM.
04
Автоматический монтаж видео по промпту: как с помощью Dive и MCP вырезать все моменты с ключевым словом
Пошаговое руководство по автоматическому монтажу видео с помощью Dive и MCP клиентов. Вырезаем фрагменты по ключевым словам без ручной работы.
05
Забейте на трансформеры: собираем экспериментальную LLM на RTX 3090
Практический гайд по сборке гибридной архитектуры LLM на RTX 3090 с Mamba-2, Titans neural memory и JEPA. Оптимизация под ограниченные ресурсы.
06
5 методов вставки данных в PostgreSQL из Python: полное сравнение ORM, Core и psycopg3 + бенчмарки
Полное сравнение 5 методов вставки в PostgreSQL: от ORM до psycopg3. Реальные бенчмарки, когда использовать каждый подход и как избежать типичных ошибок.
07
Забей на RNNoise: локальные нейросети для подавления шума, которые не тормозят
Обзор эффективных моделей для локального подавления шума в аудио. Практическое руководство по обучению и настройке. Сравнение производительности.
08
Git-коммиты, которые пишет за тебя ИИ: как настроить локальную LLM для автодополнения и не сойти с ума
Полное руководство по настройке автодополнения Git-коммитов с локальной LLM. Инструмент gsh, работающие модели, промпты и подводные камни.
09
KV-cache в долговременной памяти: почему всё ломается и как это починить
Разбираем проблему сохранения KV-cache при работе с долговременной памятью агентов. Практические решения, оптимизация памяти, ускорение инференса.
10
Почему LLM не умеют планировать: разбор провала Chain-of-Thought и будущее World Models
Глубокий разбор архитектурных причин, почему LLM неспособны к планированию. Критика Chain-of-Thought и объяснение, как World Models изменят ИИ.
11
RAG в 2024: как научить ИИ не врать, не болтать лишнего и выбирать между правдой и ложью
Обзор свежих работ по RAG: как системы борются с фейками, защищают приватность и разрешают конфликты источников. Анализ трендов от Senior DevOps.
12
PaddleOCR в полностью офлайн-режиме: как отключить загрузку моделей и использовать локальные файлы
Пошаговое руководство по настройке PaddleOCR для работы без интернета. Учимся загружать модели локально, отключать автоматические загрузки и настраивать конфигу