NVIDIA представила новый графический процессор H100 на базе архитектуры Hopper для решения различных задач в центрах обработки данных. Конструкция H100 монолитная, он изготавливается TSMC по 4-нм технологическому процессу с применением технологии 2.5D упаковки CoWoS и содержит 80 миллиардов транзисторов. Компания показала большое количество различных решений на базе H100, которые, ко всему прочему, обладают невероятной гибкостью и возможностями масштабирования.
NVIDIA H100 первым использует новейшую HBM3 память и интерфейс PCIe Gen5. Общая пропускная способность подсистемы памяти 3 ТБ/с — в 1,5 раза выше, чем у A100 на базе архитектуры Ampere. С четвёртым поколением интерфейса NVLink каждый графический ускоритель H100 поддерживает до 18 NVLink-соединений с общей пропускной способностью 900 ГБ/с.
Вычислительная производительность выросла в 3 раза при работе с такими форматами как FP32, FP64, TF32 и FP16. Также NVIDIA внедрила поддержку нового формата данных FP8, в данном случае производительность вычислений на Hopper в 6 раз выше, чем на Ampere в операциях FP16. В Hopper появился «движок» Transformer Engine с поддержкой смешанных FP8 и FP16 вычислений для ускорения обучения огромных сетей с одноимённой архитектурой.
А ещё Hopper поддерживает набор инструкций DPX для многократного ускорения алгоритмов динамического программирования. Всё это позволит ускорить процессы обучения моделей в здравоохранении, робототехнике, квантовых вычислениях, науках о данных и биологических науках и многих других областях.
На новый уровень вышла и безопасность, Hopper обеспечивает конфиденциальные вычисления в изолированной среде. Также Hopper позволяет разделить один графический процессор на 7 отдельных компонентов, каждый из них равен по производительности двум Tesla T4.
Энергопотребление решения также выросло, теперь SXM модуль с графическим процессором H100 обладает TDP до 700 Вт. Для решений форм-фактора PCIe это значение в два раза ниже – 350 Вт.
Решения на базе NVIDIA H100 станут доступны в третьем квартале.
- Источник:
- NVIDIA GTC 2022 Keynote
- NVIDIA H100
- NVIDIA Blogs [1] и [2]
