У одного Nvidia Vera Rubin NVL72 почти 75 ТБ памяти

Новый сервер Nvidia Vera Rubin NVL72 показывает, до каких масштабов выросли требования ИИ-инфраструктуры: в одной стойке собрано 74,7 ТБ памяти. Для сравнения, только объём LPDDR5X в таком сервере сопоставим с памятью примерно 5000 смартфонов.

Сколько памяти в Vera Rubin NVL72

Из общего объёма 74,7 ТБ на самую дорогую часть приходится 20,7 ТБ HBM4. Эта память установлена в 72 графических ускорителях Rubin.

Ещё 54 ТБ — это LPDDR5X, размещённая в 36 процессорах Vera. Таким образом, в NVL72 используется сразу два крупных пула памяти:

• •HBM4 для GPU — 20,7 ТБ
• •LPDDR5X для CPU — 54 ТБ

Память съедает большую часть цены

По данным источника, память формирует 62% стоимости всего сервера. Для предыдущего поколения Blackwell этот показатель составлял 53%.

При этом общая стоимость Vera Rubin NVL72 оказывается в 2,1 раза выше по сравнению с системой на Blackwell. Это означает, что рост цены связан не только с увеличением вычислительных возможностей, но и с резко возросшими затратами на память.

Почему дефицит памяти может затянуться

Ситуация важна не только из-за цены одного сервера. Nvidia собирается поставлять тысячи таких систем по всему миру, а значит спрос на HBM4 и LPDDR5X будет огромным.

Дополнительное давление создаёт и AMD, которая готовит серверные GPU с 432 ГБ HBM4. На этом фоне ожидать скорого завершения дефицита памяти не приходится: крупнейшие поставщики ускорителей одновременно наращивают требования к объёмам и типам памяти для ИИ-серверов.

Кстати, если после таких новостей хочется апгрейда для своего ПК, можно присмотреться к maxsun MS-RTX5070Ti 16 ГБ — 16 ГБ GDDR7 и 3 вентилятора для серьёзных нагрузок: