Инструменты
Подборка AI-инструментов. Только то, что работает.
Luma v2.9: как с нуля обучить свою маленькую языковую модель на PyTorch без облаков и API
Пошаговое руководство по обучению Luma v2.9 - маленькой языковой модели с нуля на PyTorch. Локальное обучение без API, структура датасета, персонализация ИИ.
PaddleOCR-VL в llama.cpp: мультиязычный OCR, который не требует GPU
Настройка PaddleOCR-VL в llama.cpp для распознавания текста на 100+ языках. Инструкция, сравнение с альтернативами и примеры использования.
Как использовать 50k датасетов CoT-рассуждений для обучения и оценки своих моделей
Практический обзор огромной коллекции из 50 тысяч датасетов Chain-of-Thought рассуждений на Hugging Face. Узнайте, как загружать, использовать для тонкой настро
Код от гениев GitHub: как собрать идеальный датасет для обучения кодогенераторов в 2026 году
Практическое руководство по использованию датасета из 1.3M+ файлов кода от лучших разработчиков GitHub для обучения LLM-кодогенераторов. Python, TypeScript, Rus
Бесплатный сверхбыстрый вывод Llama 3.1 8B на ASIC: как получить доступ к 16,000 токенов в секунду
Тестируем сверхбыстрый инференс Llama 3.1 8B на ASIC от Taalas: 16,000 токенов в секунду через API. Полный обзор технологии, сравнение с vLLM и llama.cpp, инстр
Makimus-AI: ваш личный Google Photos, который не шпионит и работает на видеокарте
Полный обзор Makimus-AI - open-source инструмента для локального поиска по фото на GPU. Установка, сравнение с альтернативами, примеры использования.
Llama 4 16x17B: как заставить 67 ГБ мультимодальную модель видеть на вашем компьютере
Пошаговый гайд по настройке Llama 4 16x17B (67 ГБ) для анализа изображений локально. Ollama, Open WebUI, тесты производительности и сравнение с альтернативами.
GSI Engram на Intel Arc: 90% экономия VRAM и форк llama.cpp, который работает
Как запустить GSI Engram 70B на Intel Arc A770 с 16GB VRAM через модифицированный llama.cpp. Техника runtime expansion и SYCL бэкенд.
MicroGPT Playground: как собрать и понять архитектуру LLM прямо в браузере
Интерактивная демонстрация архитектуры трансформеров в браузере. Образовательный инструмент для понимания работы LLM без установки ПО.
Wispr Flow больше не нужен: приватный диктофон для iOS и Mac, который работает без интернета
Тест-драйв приложения с TestFlight для приватной транскрипции на iPhone и Mac. Полный офлайн-режим, экономия $29/месяц, сравнение с Wispr Flow.
Embedding Evaluator: Когда ваши векторы сходят с ума, а вы об этом не знаете
Обзор Embedding Evaluator — CLI-утилиты для диагностики проблем с векторными эмбеддингами в RAG-системах. Визуализация кластеров, детекция выбросов, JSON-отчёты
Mirai: как новый фреймворк от создателей Reface и Prisma ускоряет on-device AI на смартфонах
Обзор Mirai - нового фреймворка для оптимизации on-device inference на Android и iOS. Сравнение с альтернативами, примеры использования и рекомендации.