Мир серьёзно меняется у нас на глазах, искусственный интеллект (ИИ) стремительно развивается и проникает во все сферы человеческой деятельности практически без исключения. Для работы ИИ требуются огромные вычислительные мощности, NVIDIA готова к таким запросам и представляет на выставке Computex 2023 суперкомпьютер DGX GH200, сообщает The Register.
Кластер DGX GH200 объединяет 256 суперчипов Grace-Hopper, каждый из которых сочетает 72-ядерный Arm совместимый процессор, 512 ГБ памяти LPDDR5X, графический процессор GH100 с 80 ГБ видеопамяти HBM3, связанный с центральным посредством скоростного интерфейса NVLink-C2C 900 Гбит/с. NVIDIA использует NVLink не только для связи между графическими процессорами, но и для объединения узлов системы, что позволяет избежать узких мест по пропускной способности. Система настроена для работы с моделями ИИ, интенсивно использующими память.
В общей сложности платформа DGX GH200 объединяет 18432 процессорных ядра, 256 графических процессоров, 144 ТБ памяти. Вот ещё несколько удивительных фактов: в кластере используется 150 миль (более 240 км) оптического волокна, более 2000 вентиляторов, а весит это всё около 40000 фунтов (более 18 тонн). Пиковая производительность одного кластера DGX GH200 в ИИ может достигать эксафлопса, однако всё зависит от конкретных задач и вычислительной нагрузки.
NVIDIA создаёт собственный суперкомпьютер Helios для исследований в области ИИ, он объединит четыре кластера DGX GH200 посредством сети с коммутаторами NVIDIA Quantum-2 InfiniBand.
Поставки NVIDIA DGX GH200 запланированы на конец года, среди первых клиентов присутствуют Google и Microsoft.