Серверы ИИ могут достичь «плотности стойки» более 1000 кВт благодаря «Rubin Ultra» от NVIDIA.

Новые чипы NVIDIA Rubin Ultra могут привести к рекордной плотности серверных стоек, превышающей 1000 кВт. Это значительное увеличение потребления энергии ставит под вопрос устойчивость технологий ИИ.
21 ноября 2024, четверг 20:28
Global_Chronicles для раздела Блоги

Мир технологий сталкивается с возможностью значительного увеличения плотности серверных стоек благодаря новым чипам NVIDIA Rubin Ultra. Прогнозы указывают на то, что плотность может превысить 1000 кВт, что в корне изменит подход к проектированию и эксплуатации центров обработки данных. На данный момент плотность современных кластеров искусственного интеллекта колеблется в пределах 130–250 кВт. Этот рост демонстрирует, насколько быстро развиваются технологии, особенно в области искусственного интеллекта.

Плотность стойки — это ключевой показатель, который показывает, сколько тепла и энергии выделяют серверы в процессе работы. Например, в 2020 году средняя плотность стойки составляла всего 8,2 кВт. За несколько лет этот показатель вырос в несколько раз, что подчеркивает растущий интерес к вычислительным мощностям ИИ. Чипы следующего поколения от NVIDIA, как ожидается, обеспечат не только высокую производительность, но и потребуют больше энергии для работы.

Однако с увеличением плотности возникает ряд вопросов. Как обеспечить необходимое количество энергии для таких мощных систем? Глобальные центры обработки данных уже потребляют столько же электроэнергии, сколько целые страны. С увеличением числа серверов и ростом их потребления, эта цифра только возрастет. Важно учитывать, что рост потребления энергии может привести к дополнительным нагрузкам на существующую энергетическую инфраструктуру.

Некоторые компании, такие как Microsoft и OpenAI, рассматривают альтернативные источники энергии, включая ядерную энергетику, для своих центров обработки данных. Использование таких технологий может помочь справиться с растущими потребностями в электроэнергии.

Увеличение плотности серверных стоек потребует более эффективных систем охлаждения и управления энергией. Это может привести к развитию новых технологий, которые позволят оптимизировать работу серверов и снизить их тепловыделение.