Перейти к содержанию
Telegram
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

541 Q4 против Q8 для Gemma 4 31B на 4090: тупой бенчмарк, который всё расставил по местам Сравнение Q4-dynamic и Q8_0 для Gemma 4 31B на RTX 4090: VRAM, tok/s, точность tool-calling. Результаты тестов и практический выбор квантизации. 6 мин чтения 542 Сравнение AI-агентов на сложной задаче: реальный бенчмарк Depixelizing Pixel Art Тестируем Claude Codex, Cursor, DeepAgents CLI и других AI-агентов на задаче восстановления пиксельной графики. Честный бенчмарк с кодом, промптами и результата 9 мин чтения 543 Запуск GLM-5.2 с MTP speculative decoding на 4× DGX Spark: сборка vLLM и Triton ядра Пошаговый гайд по сборке vLLM с поддержкой MTP speculative decoding для GLM-5.2 на кластере из 4 DGX Spark. Настройка AWQ весов, Triton ядер и распределённого и 8 мин чтения 544 Gefen — новая замена AdamW: как снизить потребление памяти на 8x при обучении нейросетей (GitHub + инструкция) Новый оптимизатор Gefen заменяет AdamW и сокращает использование VRAM на 8x. Инструкция по установке из GitHub, пример кода и сравнение с альтернативами. 6 мин чтения 545 Токенов больше нет: как компании вводят квоты на ИИ и почему Accenture запрещает сотрудникам делать презентации через нейросети Утечка аудио Accenture, угрозы промоушенам и нормирование токенов — как компании пытаются обуздать расходы на ИИ и почему это приводит к новым проблемам. 4 мин чтения 546 Как запустить SDXL в браузере с WebGPU: open-source решение для локальной генерации изображений Полный обзор open-source инструмента для генерации изображений SDXL прямо в браузере через WebGPU. Сравнение с альтернативами, примеры промптов, кому подойдет. 6 мин чтения 547 Как получить бесплатный GPT-4 API через реверсинг Windows Copilot Получите OpenAI-совместимый API из Microsoft Copilot бесплатно. Пошаговая инструкция с кодом, токенами и localhost:8000/v1. Экономьте на API, но будьте осторожн 6 мин чтения 548 Sipp: LLM в браузере без серверов — как уместить гигабайты в веб-страницу Обзор Sipp — open-source библиотеки для in-browser инференса LLM через WebGPU и WebAssembly. Сравнение с MLC WebLLM, примеры и кому подойдёт. 8 мин чтения 549 grep, граф или LSP: что дешевле и точнее для контекста кодового агента? Результаты 936 прогонов на Apache Superset Результаты 936 прогонов на Apache Superset: grep, граф или LSP — какой метод сбора контекста дешевле и точнее для кодового агента? Неожиданные выводы. 8 мин чтения 550 Сравнение LLM для продающих ботов на русском: тест 10 моделей и лучшие по цене/качеству (DeepSeek V4 Flash) Сравнение 10 моделей LLM для продающих ботов на русском языке. Цена/качество, реальные цифры, скандал с MiniMax M2.7. DeepSeek V4 Flash — лучший выбор по соотно 8 мин чтения 551 Как изолировать ИИ-агент в Docker Sandbox: пошаговое руководство по безопасности Пошаговое руководство по безопасной изоляции AI-агента в Docker-песочнице: защита OAuth-токенов, файловой системы, настройка seccomp, user namespaces и gVisor. 7 мин чтения 552 Ускорение fine-tuning MoE-моделей с NVIDIA NeMo AutoModel: 3.7x быстрее и -32% памяти Экспертный параллелизм, DeepEP и TransformerEngine сокращают время обучения на 73% и экономят треть VRAM. Как работает NeMo AutoModel и кому он нужен. 4 мин чтения