Обучение, инференс, анализ данных на одной платформе; от одного до 56 независимых GPU в одной системе для создания гибкой программно определяемой инфраструктуры дата-центров
реклама
14 мая 2020 NVIDIA представила NVIDIA DGX™ A100 – третье поколение самой передовой в мире ИИ-системы с 5 петафлопсами производительности в задачах ИИ, а также мощью и возможностями полноценного дата-центра на одной платформе.
Поставки систем DGX A100 уже начались, и первый заказ отправился в Аргоннскую национальную лабораторию Министерства энергетики США, где возможности ИИ и вычислительная мощь кластера будут направлены на борьбу с COVID-19.
«NVIDIA DGX A100 – это наилучший инструмент для развития ИИ, - говорит Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA. - NVIDIA DGX – это первая ИИ-система, построенная для ускорения машинного обучения на всех этапах – от анализа данных до обучения и инференса. Благодаря огромному приросту производительности в новом поколении DGX, специалисты по машинному обучению могут не бояться стремительного увеличения ИИ-моделей и объема данных.”
Система DGX A100 включает восемь новых графических процессоров NVIDIA A100 с тензорными ядрами, 320 ГБ памяти для обучения самых больших наборов данных и высокоскоростные интерконнекты NVIDIA Mellanox® HDR 200Gbps.
Технология MIG ( Multi-Instance GPU) позволяет ускорить процессы, запустив решение небольших задач в параллели за счет разделения DGX A100 на отдельные инстансы, до 56 в системе. Благодаря таким возможностям компании смогут оптимизировать ресурсы и выделять их в соответствии с различными видами нагрузки, включая анализ данных, обучение и инференс на единой программно определяемой платформе.
Широкое применение и поддержка
Ряд крупных компаний, поставщиков услуг и правительственных учреждений уже разместили заказы на системы DGX A100. Первые системы DGX нового поколения отправлены в Аргоннскую национальную лабораторию для борьбы с COVID-19.
Университет Флориды станет первым высшим учебным заведением в США, который получит системы DGX A100, чтобы внедрить возможности ИИ в свой учебный процесс.
Первыми пользователями систем DGX A100 также стали Центр биомедицинского ИИ в Гамбурге, Университет Чулалонгкорна в Таиланде, Немецкий исследовательский центр ИИ, разработчик решений и услуг на базе ИИ Element AI из Монреаля, сиднейская медицинская компания Harrison.ai, компания Artificial Intelligence Office (ОАЭ), ведущая вьетнамская исследовательская лаборатория VinAI Research.
Во всем мире множество общественных и частных организаций успешно применяют тысячи DGX систем предыдущих поколений. Среди них и ведущие автопроизводители, поставщики медицинских услуг, ритейлеры, финансовые институты и логистические компании, способствующие распространению ИИ в своих областях.
NVIDIA создает 700-петафлопсный кластер DGX SuperPOD
NVIDIA также представила новое поколение DGX SuperPOD – кластера, созданного из 140 систем DGX A100, способного обеспечить 700 петафлопс в задачах ИИ. Объединив 140 систем DGX A100 с помощью интерконнета NVIDIA Mellanox HDR 200Gbps InfiniBand, NVIDIA создает собственный суперкомпьютер DGX SuperPOD AI для внутренних исследований в таких областях, как диалоговый ИИ, геномика и автономное вождение.
Новый кластер является одним из самых мощных суперкомпьютеров мира для работы с ИИ и обладает производительностью, которую раньше могли обеспечить только тысячи серверов. Продуманная архитектура корпоративного уровня и производительность DGX A100 позволили NVIDIA построить систему всего за месяц. Раньше на разработку специальных компонентов с подобными суперкомпьютерными возможностями ушли бы годы.
Чтобы помочь клиентам быстрее создавать собственные дата-центры на базе графических процессоров A100, NVIDIA также представила референсную архитектуру DGX SuperPOD, в которой описываются принципы проектирования, используемые при создании супервычислительных кластеров на базе DGX A100.
Программы DGXpert и DGX-Ready Software
NVIDIA также представила две программы: NVIDIA DGXpert, которая позволит ИИ-экспертам оказывать помощь заказчикам DGX-систем, и NVIDIA DGX-Ready Software, которая откроет клиентам преимущества сертифицированного корпоративного программного обеспечения для ИИ-задач.
В рамках первой программы DGX-эксперты смогут помогать клиентам разворачивать современные ИИ-инфраструктуры и непрерывно оптимизировать их.
Программа NVIDIA DGX-Ready Software позволит клиентам быстро определять и запускать протестированные NVIDIA сторонние MLOps-приложения, чтобы повысить продуктивность исследований, ускорить решение задач ИИ и улучшить доступность и использование ИИ-инфраструктуры. Первыми партнерами, получившими сертификацию NVIDIA, стали Allegro AI, cnvrg.io, Core Scientific, Domino Data Lab, Iguazio и Paperspace.
Спецификации DGX A100
- Восемь GPU NVIDIA A100 с тензорными ядрами, с производительность в 5 петафлопс в задачах ИИ, с 320ГБ памяти и полосой пропускания в 12.4 ТБ/с.
- Шесть интерфейсов NVIDIA NVSwitch™ с технологией NVIDIA NVLink® 3-го поколения с двунаправленной полосой пропускания в 4.8 ТБ/с.
- Девять интерфейсов NVIDIA Mellanox ConnectX-6 HDR 200 Гб/с с суммарной двунаправленной полосой пропускания в 3.6 ТБ/с.
- Технологии внутрисетевых вычислений и ускорений, такие, как RDMA, GPUDirect®, Scalable Hierarchical Aggregation и Reduction Protocol (SHARP)™, обеспечивают максимальную производительность и масштабируемость.
- Программный стэк NVIDIA DGX, который включает оптимизированное ПО для ИИ и анализа данных, позволяет компаниям быстрее вернуть инвестиции в ИИ-инфраструктуру.
Доступность
Системы NVIDIA DGX A100 уже доступны для заказа по цене от 199 000 долларов через NVIDIA Partner Network. Поставщики систем хранения DDN Storage, Dell Technologies, IBM, NetApp, Pure Storage и Vast панируют интегрировать DGX A100 в свой ассортимент, включая решения на базе референсных архитектур NVIDIA DGX POD и DGX SuperPOD.
Партнеры NVIDIA по программе DGX-Ready предлагают услуги по размещению серверов в 122 локациях в 26 странах, чтобы обеспечить экономическую эффективность при размещении DGX инфраструктур. Клиенты смогут размещать и использовать свои инфраструктуры DGX A100 в проверенных дата-центрах мирового класса.
Подробнее смотрите на странице www.nvidia.com/DGXA100.
