Новое поколение чипов Rubin Ultra от NVIDIA позволит достигать плотности серверных стоек в 1000 кВт

Потребление энергии серверами ИИ является значительным, поскольку сейчас существует стремление получить большую вычислительную мощность ИИ через чипы нового поколения от NVIDIA и AMD.
23 ноября 2024, суббота 02:36
ddr77 для раздела Блоги

Прогнозируется, что новое поколение архитектур, таких как чипы Rubin Ultra от NVIDIA, позволит достигнуть плотности отдельных серверных стоек в 1000 киловатт, что свидетельствует о росте энергопотребления в секторе искусственного интеллекта. Это связано с огромным потреблением энергии, которое характерно для серверов ИИ, поскольку все больше стремятся получить больше вычислительной мощности. Вместе с NVIDIA, AMD также стремится увеличить мощность своих чипов, и это приводит к дальнейшему росту потребления энергии в этой области. Однако такое увеличение потребления энергии может иметь негативные последствия.

Современные кластеры ИИ обычно имеют плотность размещения в стойке около 130-250 кВт, но ожидается, что эта цифра достигнет отметки в 1000 кВт. Для мировых лидеров в этой области становится все более важным удовлетворить огромный спрос на энергию. Они сталкиваются с проблемой увеличения вычислительной мощности ИИ, одновременно обеспечивая достаточное энергетическое питание.
Плотность стойки - это термин, который определяет количество вырабатываемого тепла и требуемую мощность для работы всех устройств в серверной стойке. В 2020 году средняя плотность стоек составляла около 7-10 кВт. Однако с развитием технологий и увеличением вычислительной мощности, этот показатель стабильно растет.
Увеличение энергопотребления в секторе ИИ вызывает беспокойство из-за связанных с ним проблем, таких как рост влияния на окружающую среду и потребление ресурсов. Мировые лидеры сталкиваются с задачей разработки инновационных и эффективных решений для удовлетворения растущего спроса на энергию и одновременного снижения негативных последствий для окружающей среды.

Теги