Перейти к содержанию
Ctrl K
Telegram MAX
Новое AiManual теперь в MAX Подписаться
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

1237 Enforcement layer для AI-кодинг-агентов: когда модель говорит 'я не знаю', а код молчит Как построить enforcement layer для AI-кодинг-агента с Neo4j, ONNX и BM25. Полный гайд с примерами кода. Всё локально — без API. 8 мин чтения 1238 Токены под микроскопом: во сколько обходится красивый вывод Qwen 3.6 35B Эксперимент с Qwen 3.6 35B: сколько токенов «съедает» каждый формат вывода, квантование, KV cache. Практические замеры и советы по оптимизации промптов для лока 6 мин чтения 1239 vLLM против llama.cpp: 5x скорость есть, квантизаций нет. Рабочие обходные пути vLLM даёт 5x прирост скорости, но не поддерживает GGUF. Разбираем обходные пути: конвертация, AWQ, Unsloth, динамический батчинг. Практические шаги и подводные 8 мин чтения 1240 How to Add a Custom Model to llama.cpp: Implementing Laguna XS.2 with GitHub Code Полное руководство по портированию нестандартной модели в llama.cpp на примере Laguna XS.2. Исходный код на GitHub, конвертация в GGUF, инференс и грабли. 5 мин чтения 1241 Q4_K_M опережает Q8_0 на 230ms TTFT на Qwen2.5-7B: как config sweep CLI для llama.cpp и vLLM переворачивает бенчмарки Почему Q4_K_M оказался быстрее Q8_0 на 230ms TTFT в Qwen2.5-7B? Обзор нового CLI для перебора конфигураций llama.cpp и vLLM, находки и практические рекомендации 1 мин чтения 1242 Как собрать распределенное хранилище чекпоинтов ML на 4 Raspberry Pi 4B: пошаговое руководство Пошаговый гайд по сборке отказоустойчивого S3-хранилища для чекпоинтов нейросетей из четырех Raspberry Pi 4B. Все детали, код и типичные ошибки. 9 мин чтения 1243 SaaS в эпоху AI-агентов: как меняется модель монетизации и почему рано хоронить интерфейсы Разбираем, как AI-агенты перекраивают SaaS-рынок: per-action биллинг, посреднические платежи и неожиданная роль UI. Инсайты из Kaiten и a16z. 7 мин чтения 1244 Как привлечь $10M без продукта: разбор платежной инфраструктуры для AI-агентов от стартапа Natural Как стартап Natural собрал $10 миллионов на платежную инфраструктуру для AI-агентов, не написав ни строчки кода. Разбор их рыночного документа и стратегии. 4 мин чтения 1245 Cross-review планов разработки между Claude Code и Codex: методика Plan-tango Узнайте, как заставить Claude Code и Codex ревьюить друг друга, чтобы избежать галлюцинаций в планах разработки. Пошаговое руководство Plan-tango с примерами и 5 мин чтения 1246 Zvec: почему Alibaba построила самую быструю open-source векторную БД и кто уже использует её в проде Zvec обгоняет Qdrant, LanceDB и Zilliz Cloud в 2-10 раз. Бенчмарки, архитектура, примеры индексации 10M векторов за 0.8 мс. Кому реально нужна эта БД. 5 мин чтения 1247 LLaVA-OV-2: мультимодальная модель, которая смотрит видео через кодек вместо кадров — открытая реализация и датасеты Разбираем LLaVA-OV-2 - модель, анализирующую видео через H.264 вместо кадров. Открытые веса, датасеты, код. Сравнение с NVILA, Video-LLaVA. Кому подойдет и как 6 мин чтения 1248 1C Code Bench: первый бенчмарк для кодогенерации на 1С — кто из LLM сдал экзамен? Новый бенчмарк 1C Code Bench оценивает способности LLM генерировать код на встроенном языке 1С:Предприятие. Результаты тестов GPT-5, Claude 4, DeepSeek-R1 и рос 4 мин чтения