На Hugging Face появилась страница модели ricursiveAI/Ripple-65B-Preview. О ней сообщил пользователь Reddit под ником coder543. Из названия репозитория следует два факта: это превью-версия и заявленный размер 65 млрд параметров. Других подтверждённых данных в исходном сообщении нет.
Архитектура, лицензия, формат весов и результаты тестов в исходном сообщении не раскрыты. Источник новости - пост на Reddit, а не официальный анонс команды, которая обучала модель. Любое утверждение о качестве и требованиях к железу сейчас опирается на расчёты и общие закономерности для моделей такого размера, а не на данные авторов.
Дальше по порядку: что именно проверять в карточке модели, сколько памяти понадобится ориентировочно, какие конфигурации запуска реалистичны и в какой момент preview-релиз станет интересен для практики.
Что известно о Ripple-65B-Preview сейчас
Что подтверждено, а что нет
Подтверждённый список короткий.
- Существует страница ricursiveAI/Ripple-65B-Preview на Hugging Face.
- О появлении страницы написал пользователь Reddit coder543.
- В названии модели указаны 65 млрд параметров и статус Preview.
По фрагментам страницы модели, попавшим в материалы разбора, Ripple-65B-Preview описывается как dense Transformer на 65 млрд параметров, предобученный с нуля на корпусе объёмом 12 трлн токенов преимущественно на английском тексте и коде, с длиной последовательности 8K. Там же упоминается поддержка контекста до 1M. Это цитаты со страницы, а не проверка через config.json: заявленный контекст и архитектурные детали стоит перепроверить в самом репозитории.
Неподтверждённый список длиннее, и каждый пункт придётся закрывать самостоятельно по карточке.
- Архитектурные детали: число слоёв, размерность эмбеддингов, число голов внимания, параметры KV-голов.
- Чем именно подтверждён заявленный контекст до 1M и как он ведёт себя на длинных входах.
- Лицензия и условия коммерческого использования.
- Формат весов: BF16 safetensors, GGUF, квантованные сборки GPTQ, AWQ или EXL2.
- Данные о качестве: бенчмарки, сравнения с другими моделями, отчёт об обучении.
- Требования к железу и рекомендации авторов по запуску.
Материалы, на которых основан этот разбор, не содержат полного содержимого карточки. Значит, конкретные значения полей перечислять здесь нельзя: их нужно смотреть на huggingface.co в репозитории ricursiveAI/Ripple-65B-Preview. Восстанавливать детали по названию или по комментариям под постом не стоит, так и появляются неверные цифры.
Отдельно про источник. Пост на Reddit фиксирует, что страница существует и её кто-то заметил. Роль официального анонса он не выполняет: автор поста не обязан знать детали, а обсуждение быстро обрастает догадками.
Почему это preview-релиз и что это значит
Пометка Preview в имени репозитория в практике открытых релизов обычно означает одно из двух: веса выложили до окончания работы над документацией, либо команда хочет собрать реакции до финальной публикации. Иногда preview почти совпадает с финальной версией, иногда это ранний эксперимент. Что именно перед нами, из названия не понять.
Практические следствия для того, кто планирует скачивать:
- Файлы могут измениться. В репозитории Hugging Face есть история коммитов и ревизии, веса можно перезаписать без отдельного анонса.
- Карточка пополняется позже: лицензия, ограничения, рекомендации по запуску нередко появляются через недели.
- Квантованные сборки в сообществе обычно выходят после публикации оригинальных весов.
- Независимые замеры появляются ещё позже, до них оценки качества держатся на словах авторов.
Скачать 65B-модель, чтобы посмотреть на ответы, можно. Строить на preview рабочий процесс рано: сменится ревизия или лицензия, и придётся переделывать.
Что смотреть на странице модели на Hugging Face перед скачиванием
Карточка модели (model card) остаётся первичным источником. Она отвечает на большинство вопросов за пять минут, если читать по порядку.
- Формат весов. Файлы
*.safetensorsозначают полноточные или слабо квантованные веса, их читают transformers и vLLM. Файлы*.ggufрассчитаны на llama.cpp, Ollama и LM Studio. Репозитории с пометками GPTQ, AWQ или EXL2 собирают под конкретные GPU-рантаймы. Для 65B-модели наличие GGUF критично для домашнего железа. - Заявленный контекст. Смотрите поле в
config.json(обычноmax_position_embeddings) и примеры в карточке. Заявленные 8K, 32K или 1M не гарантируют, что модель держит качество на всей длине. - Лицензия. Поле
licenseв метаданных и файл LICENSE. Если репозиторий gated, доступ придётся запрашивать. - Базовые сведения от авторов. Кто стоит за аккаунтом ricursiveAI, есть ли ссылка на отчёт, сайт или код обучения. Отсутствие таких ссылок само по себе информация.
- Бенчмарки и дата обновления. История коммитов показывает, живой ли репозиторий. Таблица с MMLU без методики мало что доказывает.
- Необходимость
trust_remote_code. Если карточка просит включить эту опцию, вы запускаете на своей машине Python-код из репозитория. Для preview-модели это дополнительный риск.
Похожая логика разбора карточки описана в материале про DeepSeek-V4-Flash-Vision-Exp на Hugging Face: там тоже экспериментальная модель и половина полей закрыта.
Формат весов и способы запуска
Связка простая: формат файлов определяет инструмент запуска.
| Формат | Чем запускать | Где уместен |
|---|---|---|
| safetensors BF16/FP16 | transformers, vLLM, TGI | Сервер с несколькими GPU |
| GGUF (Q4_K_M, Q5_K_M, Q8_0) | llama.cpp, Ollama, LM Studio | Домашняя машина, CPU-оффлоад |
| GPTQ или AWQ | vLLM, AutoAWQ, ExLlama | GPU с ограниченной памятью |
Что такое GGUF и зачем он нужен, разобрано на примере GGUF-версии Raon-1-mini-preview от KRAFTON. Для 65B-модели квант Q4 даёт примерно 33-36 ГБ файлов вместо 130 ГБ, и это единственный реалистичный путь запуска на потребительской карте.
Важная оговорка: список файлов репозитория Ripple-65B-Preview в материалах разбора отсутствует. Наличие safetensors, GGUF, GPTQ, AWQ или EXL2 для этой модели не подтверждено. Пока в репозитории нет квантованных сборок, варианты запуска на потребительском железе остаются теоретическими.
Лицензия и условия использования
Лицензия решает, можно ли ставить модель в продукт. Apache 2.0 и MIT разрешают коммерческое использование почти без условий, кроме сохранения уведомления об авторских правах. Community-лицензии нередко ограничивают применение по размеру компании, требуют отдельного согласия или запрещают обучать на выходах модели другие нейросети.
Лицензия Ripple-65B-Preview в материалах разбора не подтверждена: содержимого поля license и файла LICENSE в них нет. Пока лицензия не указана явно, юридически безопасно считать модель непригодной для коммерческих задач. Для внутренних экспериментов риск ниже, но он не нулевой: условия могут поменяться в следующей ревизии.
Какое железо нужно для локального запуска 65B-модели
Все цифры ниже - расчёт по формуле «число параметров умножить на байты на параметр». Они не взяты со страницы Ripple-65B-Preview и не учитывают архитектуру, которой мы пока не знаем. Реальные требования окажутся выше: добавятся KV-кэш, буферы рантайма и запас на фрагментацию памяти.
Расчётные требования по VRAM для разных форматов
| Формат | Байт на параметр | Вес модели | Что нужно для запуска |
|---|---|---|---|
| FP32 | 4 | около 260 ГБ | Для инференса не применяют, нужен для конвертации |
| BF16 или FP16 | 2 | около 130 ГБ | 2 GPU по 80 ГБ или 4 по 48 ГБ, плюс запас |
| 8-bit | 1 | около 65 ГБ | 2 GPU по 48 ГБ или 4 по 24 ГБ |
| 4-bit | 0,5-0,55 | около 33-36 ГБ | 2 GPU по 24 ГБ, либо одна на 48 ГБ, либо 24 ГБ с оффлоадом |
KV-кэш считается отдельно: 2 умножить на число слоёв, на число KV-голов, на размерность головы, на длину контекста, на байты элемента. Для 65B-класса на длинном контексте это единицы и десятки гигабайт. Точное значение появится, когда станет известен config.json. Пока планируйте запас не меньше 10-15% сверх веса модели, а на контексте от 32K заметно больше.
Про диск тоже стоит подумать заранее: FP16-версия занимает около 130 ГБ, и примерно столько же нужно на распаковку и кэш загрузчика. Для кванта Q4 хватит 40 ГБ. Свободное место проверяют до старта загрузки, а не после.
Варианты запуска: одна GPU, multi-GPU, CPU-оффлоад
- Одна GPU на 24 ГБ. В 4-bit модель весит около 33-36 ГБ и целиком в память не поместится. Рабочий вариант - частичный оффлоад слоёв на CPU через llama.cpp: генерация идёт, но скорость падает в разы относительно полной GPU-загрузки.
- Две GPU по 24 ГБ. Реалистичный минимум для кванта Q4 с коротким контекстом. vLLM запускается с tensor parallelism на 2, transformers - с
device_map="auto". Соединение по PCIe без NVLink замедлит обмен, для инференса это терпимо. - Одна GPU на 48 или 80 ГБ. Помещаются кванты Q4 и Q5 с запасом под контекст, 8-bit попросит две карты.
- Только CPU и оперативная память. 4-bit GGUF объёмом около 36 ГБ плюс системная память под контекст. Скорость низкая, для интерактивной работы редко годится, для пакетной обработки текстов иногда приемлемо.
Какой из сценариев сработает для Ripple-65B-Preview, зависит от файлов в репозитории. Пока GGUF-сборок нет, варианты с одной и двумя картами отпадают.
Стоит ли скачивать Ripple-65B-Preview сейчас
Для рабочей задачи нет. Модель без подтверждённой лицензии и независимых замеров не подходит ни для клиентских проектов, ни для процессов, где важна воспроизводимость результата. Для знакомства с новым релизом - вполне, если есть железо и время.
Кому preview может быть интересен
- Энтузиастам с 48-96 ГБ видеопамяти, которые готовы прогнать свои промпты и опубликовать результаты.
- Разработчикам, которые оценивают новые архитектуры и хотят увидеть
config.jsonдо стабильного релиза. - Тем, кто собирает обзоры новинок и хочет зафиксировать состояние карточки на дату появления страницы.
Интеграторам и всем, кто выбирает модель под конкретную задачу, ждать полезнее: сравнивать нечего, пока нет ни бенчмарков, ни отзывов практиков. Логика оценки новинок без шума вокруг релиза разобрана в практическом чек-листе по запускам AI-моделей.
Чек-лист перед скачиванием 65B-модели
- Формат весов и наличие квантов. Если есть только safetensors, а карта на 24 ГБ, скачивание 130 ГБ ничего не даст.
- Лицензия. Читайте поле и текст, особенно пункты про коммерческое использование и обучение других моделей на выходах.
- Заявленный контекст и то, чем он подтверждён. Поле в конфиге и примеры в карточке - разный уровень доказательности.
- Дата последнего коммита и активность авторов. Репозиторий, который не обновлялся с момента публикации, вряд ли получит исправления.
- Бенчмарки с методикой. Цифры без версии теста, числа few-shot примеров и настроек сэмплирования сравнивать нельзя.
- Независимые отзывы. Ищите посты людей, которые назвали конфигурацию железа и показали выводы модели, а не пересказ анонса.
- Свободное место на диске и объём RAM. 130 ГБ под FP16 плюс системная память под загрузку шардов.
- Свой запас по VRAM. К весу модели добавьте 10-15% на оверхед и ещё больше на KV-кэш, если контекст длинный.
Что дальше: за чем следить по Ripple-65B-Preview
Сигналы, после которых модель имеет смысл обсуждать предметно:
- Карточка с архитектурой: число слоёв, параметры KV-голов, подтверждение заявленного контекста через
config.json, данные обучения. - Указанная лицензия и, если доступ закрытый, понятные условия его получения.
- Квантованные сборки в отдельных репозиториях. Появление GGUF обычно означает, что кто-то уже запустил модель и она работает.
- Независимые замеры на воспроизводимых задачах с указанием кванта, железа и версии рантайма.
- Официальный анонс или публикация отчёта. Пока есть только пост на Reddit и фрагменты страницы модели, ожидания строятся на неполных данных.
История с ожиданием Qwen4 показывает, как обсуждение опережает факты: сообщество локальных LLM способно неделями жить слухами до первого официального сообщения. С Ripple-65B-Preview ситуация проще: есть конкретный репозиторий, за обновлениями которого можно следить напрямую.
Практическое действие на сейчас: открыть страницу модели, проверить поля из чек-листа и сохранить текущее состояние карточки. Если через несколько недель появятся лицензия, описание архитектуры и квантованные веса, сравнение будет предметным.