Согласно пересказу анонса в обсуждении на r/LocalLLaMA, SanDisk представила High Bandwidth Flash: флеш-память, которая, по заявлению компании, даёт многтерабайтные скорости чтения и до 3 ТБ ёмкости на одной GPU. Пост опубликован 29 октября 2026 года, сам анонс автор датирует примерно двумя месяцами ранее, то есть концом августа 2026 года.
Для локального запуска моделей заявленные цифры выглядят радикально. Сегодня объём VRAM решает, какая модель вообще стартует и какой контекст она удержит, а пропускная способность памяти задаёт скорость генерации. 3 ТБ на одной плате смещают акцент с вопроса «поместится или нет» на вопросы «как быстро это читается» и «сколько стоит гигабайт».
Границы знания стоит обозначить сразу. Все характеристики ниже известны по пересказу анонса в одном посте (обсуждение на r/LocalLLaMA). Независимых замеров, даташитов и подтверждений от производителей GPU в материале нет. Дальше речь идёт о том, что реально написано в источнике, и об общих принципах работы памяти в AI-системах.
Что SanDisk заявила о High Bandwidth Flash
В анонсе два проверяемых пункта. Оба известны только из пересказа: оригинальный пресс-релиз в источнике не цитируется.
Заявленные характеристики: скорость чтения и 3 ТБ на GPU
- Многтерабайтные скорости чтения. Формулировка из пересказа анонса, а не результат измерений. Источник не уточняет, идёт ли речь о последовательном чтении, о случайном доступе, о пропускной способности одного чипа или целого модуля.
- До 3 ТБ флеш-памяти на одной GPU. Тоже заявление компании. Не сказано, как эта память подключается к ускорителю, видит ли её драйвер как единое адресное пространство и делится ли она между процессами.
Масштаб полезно держать в голове. Пропускную способность HBM на современных ускорителях принято считать в терабайтах в секунду, а потребительские NVMe SSD читают данные в гигабайтах в секунду. Заявленные «многтерабайтные» значения ближе к первому лагерю, но без методики измерения цифра ничего не доказывает: полоса на последовательном чтении и полоса на произвольных блоках по 4 КБ различаются в разы. Это общий ориентир, а не часть анонса.
Что в анонсе не раскрыто
Список открытых вопросов длиннее списка заявленных характеристик.
- Задержка доступа. Для инференса важна не одна полоса, а время отклика на одно обращение.
- Ресурс записи и износ. Флеш-память деградирует при перезаписи, а KV-кэш и промежуточные буферы живут в режиме постоянного обновления.
- Энергопотребление и охлаждение. 3 ТБ флеша рядом с горячим GPU добавляют ватты и тепло.
- Интерфейс и форм-фактор. Как это физически стыкуется с платой: отдельный модуль, интерпозер или что-то иное.
- Поддержка со стороны производителей GPU, драйверов и фреймворков. Без неё память останется невидимой для PyTorch или llama.cpp.
- Сроки выхода, цена, доступность для разных категорий покупателей. Ни одного из этих пунктов в пересказе нет.
Пока по этим пунктам тишина, технологию нельзя оценить ни как прорыв, ни как провал. Любая оценка будет опираться на ожидания, а не на данные.
Почему анонс High Bandwidth Flash остался незамеченным
Наблюдение автора исходного поста
Пользователь Zombiecidialfreak описал странную асимметрию: за два месяца он не встретил ни одного упоминания High Bandwidth Flash. Ни позитивного, ни негативного, ни нейтрального. Ему приходится заново открывать анонс, чтобы убедиться, что тот существует, иначе возникает ощущение, что он всё выдумал. По его словам, надежд на технологию не выражает никто, включая участников профильного сообщества, а саму ситуацию он описывает как коллективное забвение анонса (источник наблюдения).
Это личный опыт одного человека, а не замер упоминаний. Автор не приводит статистику поисковых запросов, число просмотров или охват публикаций. Читать наблюдение стоит как сигнал «в моей ленте этого нет», а не как измеренный факт.
Тишина как сигнал, а не приговор
Отсутствие обсуждения и отсутствие технологии - разные вещи. У тишины вокруг анонса есть несколько правдоподобных объяснений, и ни одно из них не говорит о технической несостоятельности.
- Нет продукта, цены и сроков. Обсуждать нечего: нельзя сравнить, нельзя купить, нельзя построить план апгрейда.
- Нет независимых замеров. Сообщество энтузиастов держится на цифрах из чужих прогонов. Пока их нет, разговор упирается в пересказ пресс-релиза.
- Усталость от анонсов памяти. Громкие обещания по пропускной способности и ёмкости звучат регулярно, а до полок доходят единицы.
- Неверная адресация. 3 ТБ на одной GPU читаются как серверная история, а площадка вроде r/LocalLLaMA живёт домашним железом и картами, которые можно купить сегодня.
Обратное тоже верно: отсутствие негатива не подтверждает, что технология работает. Тишина означает лишь одно, публичных данных для спора пока нет.
Что High Bandwidth Flash могла бы дать локальным LLM
У локального запуска два разных ограничения, и путать их не стоит. Объём памяти решает, поместится ли модель и хватит ли места под контекст. Пропускная способность решает, с какой скоростью пойдёт генерация.
VRAM, пропускная способность и размер модели
При генерации токена модель читает активные веса целиком или почти целиком, поэтому декодирование упирается в память, а не в арифметику. Простая арифметика: модель на 70 млрд параметров в 4-битном квантовании занимает около 35 ГБ только под веса, без KV-кэша и служебных буферов. Всё, что не влезло в VRAM, уезжает в системную RAM и дальше на NVMe, а скорость падает в разы. Публичный пример такого компромисса - запуск DeepSeek V4.1 Flash 8K на RTX 5090 с 64 ГБ DDR5, где автор отчёта получил около 10 токенов в секунду.
Если флеш-память на GPU действительно даст терабайты ёмкости при задержках, близких к DRAM, расклад меняется: модели перестанут делиться между устройствами, а сплит «часть в VRAM, часть в RAM» уйдёт в прошлое. Оговорка важна: заявленных задержек в источнике нет, а именно они определяют, будет такая память быстрой или просто большой.
Кэширование и длинный контекст
KV-кэш растёт вместе с длиной контекста и числом слоёв, и на длинных диалогах он способен съесть больше памяти, чем сами веса. Гипотетически флеш рядом с GPU могла бы держать KV-кэш, кэш эмбеддингов и промежуточные данные RAG-системы, освобождая HBM под веса. Звучит заманчиво, но у сценария два слабых места: случайное чтение и запись. KV-кэш обновляется постоянно, а флеш-память имеет ограниченный ресурс перезаписи. Пока SanDisk не назвала ни задержек, ни ресурса в циклах или терабайтах записи, это остаётся гипотезой, а не обещанием.
Место High Bandwidth Flash среди технологий памяти для AI-систем
Ландшафт памяти для AI удобно разложить по назначению, а не по названиям.
- DRAM: HBM и GDDR. Малая задержка, высокая пропускная способность, ограниченная ёмкость на устройство и высокая цена за гигабайт. Рабочая память ускорителя.
- NVMe SSD. Большая ёмкость, заметно более высокая задержка, блочный доступ. Хранилище для весов, датасетов и холодных кэшей.
- Флеш-память как расширение памяти ускорителя. Промежуточная ниша, куда метит High Bandwidth Flash по заявлению компании.
Ниша не пустая. На Hot Chips 2026 и Flash Memory Summit показывали Kioxia GP1 на 10 млн IOPS как расширение HBM и PCIe 6.0 SSD на 28,4 ГБ/с; детали и ограничения собраны в разборе серверного железа для ИИ. High Bandwidth Flash встаёт в тот же ряд вопросов: насколько близко флеш подбирается к DRAM по задержке и кто возьмётся поддерживать её в драйверах. Похожая логика обсуждалась и вокруг возможного возвращения Intel в memory-бизнес, об этом мы писали в материале про новую memory architecture.
Вывод по месту в ландшафте скромный: пока это заявка на отдельную нишу, а не готовое решение с параметрами.
Открытые вопросы к реализации
Чтобы технологию можно было обсуждать всерьёз, нужны ответы по восьми пунктам. Каждый важен именно для локальных LLM и AI-систем, а не для абстрактной производительности.
- Задержка чтения и записи. Для декодирования токена важна задержка, одной полосы недостаточно. Терабайты в секунду при отклике в десятки микросекунд дадут другой результат, чем те же терабайты при отклике в наносекунды.
- Ресурс флеш-памяти. Постоянная запись KV-кэша и буферов быстро изнашивает ячейки. Нужен ресурс в TBW или циклах перезаписи.
- Поведение на случайном доступе. Инференс редко читает данные строго последовательно.
- Энергопотребление и охлаждение. Дополнительные ватты и тепло на плате ускорителя меняют требования к питанию и корпусу.
- Интерфейс и совместимость. Через что память соединяется с GPU и видна ли она как единое адресное пространство.
- Поддержка в драйверах и фреймворках. Без интеграции с CUDA-подобными стеками и с llama.cpp или vLLM железо бесполезно.
- Сроки выхода и цена. Без них нельзя планировать ни апгрейд, ни бюджет проекта.
- Доступность частным пользователям. Серверный рынок и розница живут по разным правилам.
Пока ответов нет, оценки «перспективно» и «очередной пресс-релиз» одинаково плохо обоснованы.
Как оценивать подобные анонсы памяти и оборудования для AI
Чек-лист, который экономит время и деньги. Он работает для любого анонса памяти, ускорителей и сетевого оборудования.
| Что проверить | Почему это важно | Статус у High Bandwidth Flash |
|---|---|---|
| Есть ли продукт и сроки | Анонс без даты и SKU не даёт планировать | не раскрыто |
| Есть ли независимые замеры | Цифры производителя проверяются только сторонними прогонами | нет |
| Раскрыты ли задержки и ресурс | Именно они определяют пригодность для инференса | нет |
| Поддержка производителей GPU и ПО | Без драйверов и фреймворков память не работает | неизвестно |
| Доступность частным пользователям | Серверные поставки почти не доходят до розницы | неизвестно |
Применить чек-лист к исходному анонсу несложно: из пяти пунктов закрыт ноль. Это не приговор, а констатация уровня раскрытия информации. Отсутствие обсуждения в таком случае логично, людям нечего проверять, кроме пересказа (пост с анонсом и наблюдением).
Стоит ли ждать High Bandwidth Flash владельцам домашних AI-систем
На текущем уровне информации - нет. Ждать имеет смысл то, что можно купить и измерить. High Bandwidth Flash пока не даёт ни сроков, ни цены, ни данных о задержках, поэтому строить на ней план апгрейда домашнего AI-сервера рано.
Что отслеживать, чтобы не пропустить реальный старт:
- появление инженерных образцов и упоминаний у производителей ускорителей;
- первые независимые замеры задержек и случайного чтения;
- поддержку в драйверах и в основных фреймворках для инференса;
- анонс продукта с ценой, объёмом и датой поставок;
- публикации с TBW и гарантийными условиями.
Практический план на сейчас строится из доступного железа: сколько VRAM есть, какие модели на ней идут, где узкое место. Если апгрейд нужен в ближайшие месяцы, ориентируйтесь на текущие цены и предложения, а не на обещания. Как на стоимость RAM и VRAM давит AI-спрос и что делать, когда апгрейд нужен уже сейчас, мы разбирали в материале про рост производства памяти в Китае.
High Bandwidth Flash стоит держать в списке наблюдения. Достаточно одного условия, чтобы вернуться к теме: появление измеримых цифр вместо формулировки «многтерабайтные скорости чтения».