Сегодня на мероприятии GTC были представлены графические процессоры Nvidia Hopper H100 вместе с суперчипами Grace. Новые модели графических процессоров легко масштабируются, и Nvidia предлагает различные решения с несколькими графическими процессорами для удовлетворения различных потребностей центров обработки данных. Графический процессор H100 имеет значительные улучшения по сравнению с моделями Ampere A100 2020 года, особенно, что касается FP операций.
GPU Nvidia H100 изготавливается по 4-нм техпроцессу компании TSMC и имеет размер кристалла 814 мм², что на 14 мм² меньше, чем у A100. Это первый графический процессор Nvidia с поддержкой интерфейса PCIe 5.0, а также более скоростным форм-фактором SXM. Сам GPU содержит более 80 миллиардов транзисторов, что почти на 50% больше, чем у Ampere. H100 также имеет 132 кластера с 16896 ядрами CUDA для карт SXM и 14592 ядрами CUDA для PCIe 5.0, что более чем в два раза превышает их количество в предыдущем поколении.
Кэш L2 также претерпел изменение и увеличился с 40 МБ до 50 МБ, но шина памяти осталась прежней 5120 битной, а объем памяти HBM3 составляет 80 ГБ с пропускной способностью 3 или 2 ТБ/с в зависимости от форм-фактора. Версия SXM имеет 528 тензорных ядер и потребляет 700 Вт, в то время как версия PCIe имеет только 456 тензорных ядер и ограничена мощностью TGP 350 Вт.