Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

1429 v100-skinny: как запустить Qwen3.6 27B на старых V100 с NVFP4 и получить до 366 токенов/с Проект v100-skinny запускает Qwen3.6 27B с NVFP4-квантованием на устаревших V100 со скоростью до 366 токенов/с. Разбираем CUDA-ядра, бенчмарки на JSON и кодоген 7 мин чтения 1430 Почему больше инструментов не значит лучше: как monday.com перестроил архитектуру своего AI-ассистента Sidekick Инженерный кейс monday.com: как рост числа инструментов разрушает работу AI-ассистента в production, и почему модульная архитектура с оркестратором, субагентами 11 мин чтения 1431 Локальный бенчмарк Muse Glimmer 30B, Qwen 3.6 27B и Gemma4 31B: кто тратит в 3 раза больше запросов Локальный бенчмарк моделей 27B–31B: Muse Glimmer 30B догоняет Qwen 3.6 27B и Gemma4 31B по качеству, но Gemma4 тратит втрое меньше запросов, чем Muse. Внутри: т 6 мин чтения 1432 Daybreak Red и Daybreak Blue на Amazon Bedrock: как AWS и OpenAI усиливают киберзащиту с помощью специализированных моделей AWS и OpenAI запустили Daybreak Red (GPT-5.6 Cyber) и Daybreak Blue (GPT-5.6 Sol) на Amazon Bedrock. Разбираем контекстную архитектуру безопасности, сценарии дл 9 мин чтения 1433 Квантование DeepSeek V4 0731: скрытые баги конвертера, честный бенчмарк и хаос в названиях на Hugging Face Команда AtomicChat нашла критические ошибки в конвертере DeepSeek V4 0731: NaN в эмбеддингах и искажение FP8→Q8_0. Исправленная модель и тест 38 квантов на 8×RT 6 мин чтения 1434 Многоузловые конфигурации Spark Cluster для LLM: опыт сообщества r/LocalLLaMA Разбор уникального кейса: участник r/LocalLLaMA продаёт четырёхузловой Spark-кластер с недокументированными конфигурациями супернод для оптимизации LLM-фреймвор 8 мин чтения 1435 Практическое тестирование CMP170HX: 256 ГБ VRAM за $200 — реальность или лотерея? Четыре CMP170HX по 64 ГБ дают 256 ГБ VRAM за $800. Тестируем в llama.cpp: до 120 t/s на 20B моделях, контекст 1M для DeepSeek V4-Flash. Разбираем узкие места, с 9 мин чтения 1436 Accel закрывает фонд $550M для Индии: ставка на ИИ и новые горизонты венчурного рынка Accel закрыла фонд для Индии на $550 млн, несмотря на неиспользованные резервы предыдущего. Разбираем стратегию: почему ИИ стал горизонтальной технологией, каки 5 мин чтения 1437 Могут ли LLM распознавать свои галлюцинации через анализ logprobs? Эксперимент с Gemma и Qwen Экспериментальная проверка гипотезы: можно ли отловить галлюцинации LLM через анализ logprobs в момент первого появления факта? Тесты Gemma и Qwen показали AUC 7 мин чтения 1438 Тест Muse Glimmer в реальных задачах кодинга: результаты, ограничения и сравнение с Qwen3.6 27B Практический тест Muse Glimmer с Q4 квантизацией на M5 Pro: 17 токенов/с, сравнение качества кода с Qwen3.6 27B на frontend и backend задачах. Честный обзор огр 8 мин чтения 1439 Muse Spark 1.2: стратегический ход Meta на фоне задержки Llama 4 Behemoth Muse Spark 1.2 - открытая мультимодальная модель Meta на 30B параметров: GGUF-квантизации от Q2_K до Q8_0, запуск локально на GPU с 24 ГБ VRAM или на CPU. Сравн 10 мин чтения 1440 Daybreak Blue и Red: как OpenAI перестраивает киберзащиту с помощью новых уровней и модели GPT-5.6-Cyber OpenAI разделила программу киберзащиты Daybreak на два уровня: Blue — три сервиса для повседневной защиты, Red — тестирование безопасности и модель GPT-5.6-Cybe 6 мин чтения