Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

4388 материалов
01 Провал теста: почему TurboQuant ещё не работает на Android и как собрать llama.cpp под ARM Подробный отчет о тестировании TurboQuant на Snapdragon и пошаговая сборка llama.cpp под ARM для Android. Флаги компиляции, ошибки GGML type registration. 5 мин чтения 02 Разоблачение Turboquant: как rotation матрицы портят спарсити при квантовании LLM Глубокий анализ Turboquant: как rotation матрицы улучшают реконструкцию аутлайеров, но портят спарсити активаций. Измерения на Qwen и llama.cpp. 6 мин чтения 03 Как запустить 9B модель на 6GB VRAM: бесплатный гайд по использованию Google Colab и Cloudflare Tunnel Пошаговый гайд по запуску 9B-параметровой LLM на Google Colab T4 с 6GB VRAM и созданию публичного API через Cloudflare Tunnel. Актуально на март 2026. 8 мин чтения 04 6 паттернов промпт-инжиниринга для разработчиков: от рефакторинга до аудита безопасности Готовые шаблоны промптов для рефакторинга, тестирования, миграции кода и аудита безопасности. Практическое руководство для разработчиков. 7 мин чтения 05 Как обучить мощную модель для эмбеддингов на одной видеокарте 3060 Ti: руководство по Unsloth и BRIGHT Пошаговое руководство по обучению модели для эмбеддингов на видеокарте 3060 Ti с использованием Unsloth. Достигните #2 в benchmark BRIGHT на домашнем железе. 9 мин чтения 06 Твой Coding Agent глупеет на C#? Qwen 3.5 против Llama 3.3 и баг, который убивает 65K контекст Глубокий разбор бага tiered eviction в llama.cpp для гибридных моделей. Почему pure-attention 70B лучше для агентного C# кодирования и как избежать потери конте 10 мин чтения 07 Как исправить инвалидацию KV-кэша в llama.cpp при использовании Claude Code: инструкция по настройке Пошаговая инструкция по настройке Claude Code для предотвращения инвалидации KV-кэша в llama.cpp. Решение проблемы перерасчета токенов и повышение производитель 6 мин чтения 08 Архитектура Ring: как масштабировать мультиязычную RAG-поддержку на Bedrock Knowledge Bases с экономией 21% Пошаговый гайд по Ring-архитектуре для глобального RAG-чата на AWS Bedrock Knowledge Bases. Фильтрация по метаданным, пайплайны Step Functions и реальный кейс э 9 мин чтения 09 Практическое руководство: как построить семантический поиск по художественным произведениям с помощью RAG Пошаговый гайд по созданию семантического поиска по 90k историй с учетом сюжета и контекста. Выбор эмбеддинг-моделей, стратегии чанкинга и реранкеров на 2026 го 6 мин чтения 10 От шаблонных рекомендаций к умному собеседнику: создаем кино-агента на Amazon Bedrock AgentCore Пошаговый гайд по созданию гибридного агентного ассистента для персонализированных рекомендаций фильмов на Amazon Bedrock. Используем AgentCore, Nova Sonic 2.0 7 мин чтения 11 Сравнение локальных моделей для text-to-SQL: неожиданные лидеры и как запустить бенчмарк самому Практическое сравнение локальных моделей для генерации SQL. Запусти свой бенчмарк, узнай, какая модель лучше на твоих данных. Результаты на 30.03.2026. 9 мин чтения 12 Почему opensource-модели фейкут вызовы инструментов и как это исправить: гайд по настройке OpenRouter и MCP Почему локальные модели имитируют вызовы инструментов и как настроить реальный веб-поиск через OpenRouter и MCP-серверы. Подробный гайд на 2026 год. 8 мин чтения