Компания Nvidia анонсировала DGX Station, свой второй настольный ИИ-суперкомпьютер. Эта система нацелена на специалистов по ИИ, разработчиков и исследователей данных. Они смогут разрабатывать и запускать масштабные языковые модели ИИ и проекты прямо на этих системах.

Благодаря Grace Blackwell Ultra Desktop с 300 ГБ оперативной памяти, она позволяет локально запускать модели с 200 миллиардами параметров. Суперчип обладает доступом к 496 ГБ памяти LPDDR5X и 288 ГБ памяти HBM3e графического процессора.

Этот суперчип представляет собой 72-ядерный процессор Grace, соединённый с графическим процессором Blackwell Ultra посредством NVLink-C2C. Это соединение обеспечивает в семь раз большую пропускную способность по сравнению с PCIe Gen 5, достигая 900 ГБ/с. Графический процессор Blackwell Ultra обеспечивает до 1,5 раз большую производительность AI FLOPS, чем Blackwell, и оптимизирован для FP4, что повышает эффективность ИИ за счёт снижения нагрузки на память и вычислительные ресурсы.

DGX-станции взаимодействуют с другими узлами через ConnectX-8 SuperNIC, обеспечивающий скорость передачи данных до 800 Гбит/с. Операционная система DGX, представляющая собой модифицированную версию Ubuntu Linux, оптимизирована для эффективной работы всего программного обеспечения Nvidia AI. Это упрощает перенос моделей LLM AI из локальной среды разработки в облачную инфраструктуру для удобного развертывания и масштабирования.

Ожидается, что DGX-станции станут доступны через сторонних производителей ПК позднее в 2025 году.