Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Если дефицит DRAM индустрия уже прочувствовала на кошельке, то следующее ограничение, как считает Wccftech, окажется куда жёстче — речь об энергоснабжении. Обучение передовых моделей требует всё более крупных кластеров, а масштабы, к которым подходит индустрия, делают вопрос «где взять электричество» важнее вопроса «где взять память». Производители чипов могут годами наращивать производственные мощности, а вот энергетическую инфраструктуру так просто не расширишь.
Наглядный пример — стоечная система NVIDIA Kyber на платформе Rubin Ultra NVL576. Одной такой стойке нужно 600 кВт непрерывного питания, а это, как пишут Wccftech, сопоставимо с потреблением примерно 500 среднестатистических американских домохозяйств. К слову, в 2022 году типичная стойка на архитектуре Hopper обходилась примерно в 40 кВт, а в 2024-м Blackwell NVL72 поднял планку до 120 кВт, тогда как обычная серверная стойка расходует и вовсе около 8 кВт. Ожидаемый во второй половине 2027 года Kyber означает пятикратный рост относительно Blackwell, и Дженсен Хуанг ещё весной прошлого года предупреждал, что впереди дата-центры с мегаваттами на стойку.
Проблема уже не гипотетическая. Amazon, по данным Business Insider, закупила стойки NVIDIA GB300 примерно на 5 миллиардов долларов и не может их запустить, потому что инфраструктура не готова к такой нагрузке. На части площадок место под стойки есть, а доступной мощности нет, поэтому готовое оборудование стоит на промежуточных складах. Для этого даже придумался отдельный термин «тёмные GPU»: чипы куплены, но простаивают без электричества.
Звоночки, кстати, были ещё в прошлом году. Бум ИИ-дата-центров тогда перегружал энергосети, а теперь, судя по всему, ситуация становится только хуже. Без полной модернизации существующих сетей и самих дата-центров следующий этап развития искусственного интеллекта вполне может упереться не в вычислительные мощности и не в память, а в банальную нехватку электричества — и именно энергия станет главным ограничителем отрасли.