NVIDIA анонсировала ускорители вычислений Blackwell Ultra B300 для центров обработки данных, заявляя о значительном увеличении вычислительной производительности для приложений искусственного интеллекта, сообщает Tom’s Hardware.
Новые ускорители предлагают в 1,5 раза большую вычислительную производительность на операциях с числами FP4 и получили на 50% больше памяти, по сравнению с существующими ускорителями B200. Blackwell Ultra B300 разработаны для более сложных рассуждающих моделей ИИ, таких как DeepSeek R1.
Источник изображения: NVIDIA, TechPowerUp
NVIDIA также выпускает несколько серверных решений на основе Blackwell Ultra B300: суперкомпьютеры GB300 DGX Station и серверные стойки NV72L. Восемь стоек NV72L — это Blackwell Ultra DGX SuperPOD — кластер, объединяющий с 288 центральных процессоров Grace, 576 графических процессоров Blackwell Ultra B300 и 300 ТБ памяти HBM3e. Производительность кластера на операциях FP4 достигает 11,5 эксафлопс. Эти кластеры — основа будущих «ИИ фабрик».
Некоторые из ключевых характеристик ускорителей Blackwell Ultra B300:
- Тензорная вычислительная производительность FP4 (плотные/разреженные): 15/30 петафлопс (по сравнению с 10/20 в B200);
- Память: 288 ГБ HBM3e (8x36 ГБ);
- Мощность: не сообщается (мощность B200 достигала 1300 Вт).
NVIDIA утверждает, что стойка NV72L вместе с новым программным обеспечением Dynamo может обеспечить 30-кратное преимущество по производительности вывода относительно аналогичной конфигурации Hopper при работе с рассуждающими моделями, такими как DeepSeek R1. Например, Blackwell Ultra B300 может обеспечить скорость до 1000 токенов в секунду при работе с DeepSeek R1-671B, по сравнению со 100 токенами в секунду на Hopper — это значительно сокращает время обработки сложных запросов.
Хотя точное масштабирование производительности на других типах вычислений ещё уточняется, NVIDIA ожидает, что B300 значительно улучшит возможности ИИ. Новые ускорители станут доступны во второй половине этого года и NVIDIA прогнозирует значительный рост доходов от реализации новых решений.
