Перейти к содержанию
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

1920 материалов
01 SkillOpt: как превратить ваши .md файлы в обучаемые параметры для LLM SkillOpt — open-source инструмент для оптимизации markdown-навыков под LLM. Разбираем, как он работает, с чем его едят, и кому он реально сэкономит нервы. 5 мин чтения 02 Shard: 10× сжатие KV-кэша для Llama 3.1 8B без потери качества — обзор метода и применения Разбираем метод Shard: сжатие KV-кэша в 10 раз с PCA и int4 для Llama 3.1 8B. Сравнение с Delta-KV, TurboQuant, Binary KV cache. Примеры использования в Hugging 4 мин чтения 03 KV Cache Calculator: считаем память для LLM и не даем GPU захлебнуться Онлайн-инструмент для расчета памяти KV cache под любую LLM. Сравнение с аналогами, примеры для Llama 3, Qwen, Mistral. Узнайте, сколько VRAM нужно для вашего к 6 мин чтения 04 Heretic: инструмент для снятия guardrails с Llama 3.3 – как это работает и чем грозит Инструмент Heretic вырезает цензуру из Llama 3.3 за минуты. Разбираем механизм, опасность и позицию Financial Times. Что будет с безопасностью ИИ? 5 мин чтения 05 MCP from Scratch: пишем локального агента на node-llama-cpp и GGUF моделях за вечер Полный гайд по созданию MCP-сервера на Node.js с локальной LLM через node-llama-cpp. Научу писать агентный цикл, JSON-RPC и stdio transport без готовых решений. 7 мин чтения 06 Сравнение OCR-моделей: granite-docling-258m vs granite-docling-2stage-258m — кто точнее? Тесты granite-docling-258m и granite-docling-2stage-258m от IBM: какой OCR точнее? Примеры, производительность, кому подходит. Обзор 2026. 4 мин чтения 07 Сравнение всех TTS моделей до 2026: бенчмарк и результаты для локального использования Первый открытый бенчмарк TTS моделей для Windows, Mac и Linux. Результаты тестов, неожиданные лидеры и практические советы по выбору синтезатора речи. 5 мин чтения 08 Новые MLLM-as-a-Judge evaluator в Strands Evals: автоматическая оценка image-to-text задач Разбираем четыре новых мультимодальных оценщика в Strands Evals SDK. Как автоматизировать проверку captioning, OCR и VQA с помощью MLLM-судей. 1 мин чтения 09 G4-MeroMero-26B-A4B-it-uncensored-heretic: когда модель говорит всё, а отказывается только в 12% случаев Uncensored версия Gemma-4 26B с низким KLD и 12% отказов. Сравнение с Qwen3.5, MiniMax, GLM-4.7. Кому нужен такой инструмент и почему 12% — это много. 5 мин чтения 10 OpenAI Voice Intelligence API: GPT Realtime 2, задержка, контекст и защита — что нужно знать разработчикам Новый голосовой API от OpenAI: GPT Realtime 2, компромиссы задержки, контекст и защита от инъекций. Сравнение с альтернативами и примеры для разработчиков. 7 мин чтения 11 OpenAI-совместимое API для Amazon SageMaker: инструкция по интеграции без SigV4 Пошаговая инструкция по настройке SageMaker endpoint для приема запросов в формате OpenAI API. Избавьтесь от SigV4 подписи, используйте bearer token. Примеры дл 6 мин чтения 12 Новые возможности SageMaker Feature Store: Iceberg, streaming и Lake Formation для ML-пайплайнов Обзор новых возможностей Amazon SageMaker Feature Store: Apache Iceberg, стриминг фич и интеграция с Lake Formation. Как это меняет ML-пайплайны. 4 мин чтения