SanDisk и SK Hynix показали стандарт памяти HBF

SanDisk и SK Hynix опубликовали первую спецификацию High Bandwidth Flash — нового типа высокоскоростной флеш-памяти для ИИ-систем. Стандарт представлен в рамках инициативы Open Compute Project и нацелен на узкое место, которое все заметнее при инференсе крупных моделей: объема классической HBM часто не хватает для размещения весов.

К разработке HBF уже присоединились Google и Tensorrent. Авторы технологии подчеркивают, что речь идет не о замене HBM, а о связке двух типов памяти в одной системе.

Что такое HBF

HBF использует вертикальные стеки NAND. Идея в том, чтобы оставить HBM задачи, критичные к задержкам, а HBF задействовать как более емкий слой памяти для хранения весов моделей.

По расчетам разработчиков:

• •16-кристальный стек HBF вмещает 512 ГБ
• •это в 8–16 раз больше емкости HBM
• •при этом стоимость остается сопоставимой

Такой подход рассчитан именно на сценарии инференса крупных ИИ-моделей, где важен большой объем памяти без радикального роста цены системы.

Какие результаты уже показали

Для оценки эффекта разработчики провели моделирование на Llama 3.1 405B. В сравнении с системой, построенной только на HBM, вариант с HBF показал отставание по производительности всего на 2,2%.

Это ключевой аргумент в пользу концепции: дополнительный объем памяти можно получить почти без заметной потери скорости, если HBM и HBF распределяют разные роли внутри одной архитектуры.

Когда ждать железо

Первые образцы HBF ожидаются во второй половине 2026 года. Коммерческие поставки запланированы на 2027 год.