На конференции Supercomputing 2023 (SC23) компания NVIDIA анонсировала обновлённую версию ускорителя H100 с памятью HBM3E, сообщают AnandTech и ComputerBase. Обновлённая версия получила название H200 и, как ожидается, обеспечит повышение реальной производительности в нагрузках, которым нужен больший объём памяти и большая пропускная способность, чем у существующего H100 с HBM3. Это особенно полезно для больших языковых моделей, которые с лёгкостью могут заполнить 80 ГБ в H100.
С переходом к HBM3E в H200 активируют шестой стек памяти, который был отключён в оригинальном H100 — это позволит увеличить объём памяти до 141 ГБ, а пропускную способность до 4,8 ТБ/с. Таким образом, память H200 будет работать с пропускной способностью на контакт примерно равной 6,5 Гбит/с. Это меньше возможностей HBM3E и обусловлено ограничениями контроллера памяти в H100, считают специалисты AnandTech.
Следом NVIDIA анонсировала платформу HGX H200 — обновлённую версию HGX H100 на базе восьми ускорителей форм-фактора SXM. Платы HGX 200 перекрёстно совместимы с платами H100, что позволяет сборщикам серверов осуществить плавный переход. Также соответствующим образом будет обновлён «суперчип» Grace Hopper GH200 — чип H100 в его составе заменят на H200. Далее компания анонсировала Quad GH200 — четыре ускорителя GH200 на одной плате с чипами Grace и Hopper. Узел Quad GH200 будет предлагать 288 процессорных ядер Arm и в общей совокупности 2,3 ТБ высокоскоростной памяти.
Кульминацией стал анонс нового суперкомпьютера Jupiter, состоящего из 24000 узлов GH200. Jupiter является крупнейшим суперкомпьютером, анонсированным на данный момент. Он ориентирован на стандартные рабочие нагрузки HPC и тензорные вычисления низкой точности для решения задач, связанных с искусственным интеллектом. Ожидается, что на операциях с низкой точностью система будет обеспечивать 93 экзафлопс вычислительной производительности, а на операциях с двойной точностью — более 1 экзафлопс. Это делает Jupiter первой системой HPC экзафлопсного класса на базе решений NVIDIA.
Развернуть Jupiter планируют в 2024 году в Германии. Климат, материаловедение, медицина, проектирование и квантовые вычисления — области, для которых Jupiter поможет создать фундаментальные модели ИИ.
- Источники
- NVIDIA
- AnandTech
- ComputerBase
