NVIDIA может выпустить новые варианты ускорителей H100 с объёмом памяти 94 ГБ и 64 ГБ

Это нестандартные конфигурации памяти.
26 июня 2023, понедельник 13:38
molexandr для раздела Блоги
Vishal Bansal, Unsplash

NVIDIA может выпустить новые варианты ускорителей вычислений для центров обработки данных H100 (Hopper) — на это намекает недавнее обновление общедоступного списка идентификаторов устройств PCI, сообщает VideoCardz. Один из авторов-составителей данного списка утверждает, что в разработке находятся ускорители формата SXM5 на 94 ГБ и 64 ГБ памяти. Как полагают специалисты, варианты SXM5 могут получить HBM3 память, интерес вызывает объём, по крайней мере, у одного из вариантов.

Источник: VideoCardz и PCIID

Конфигурация с 94 ГБ HBM3 памяти является нестандартной, это не первый вариант H100 с такой конфигурацией HBM3, ранее компания выпустила H100 NVL на 188 ГБ — в нём использовались две PCIe Gen 5 карты по 94 ГБ, объединённые с помощью интерфейса NVLink — такой «пакет» предлагается для работы с очень большими языковыми моделями. NVIDIA не уточняет конфигурацию стеков HBM3, как полагают специалисты, объём памяти компания регулирует отключением определённого количества слоёв в стеках. Модель на 64 ГБ может быть реализована с четырьмя из шести стеков по 16 ГБ, считают в VideoCardz.