На этой неделе Марк Цукерберг поделился новостями о Llama 4, новой модели искусственного интеллекта от Meta*. Он сообщил, что обучение этой модели происходило на кластере, состоящем из более чем 100 000 графических процессоров H100. Цукерберг отметил, что это число превышает все, что он видел ранее в отчетах о деятельности других компаний.

Хотя основатель Facebook* не раскрыл все детали Llama 4, он подчеркнул, что новая модель обладает «более сильным рассуждением» и «значительно большей скоростью». В условиях жесткой конкуренции с Microsoft, Google и xAI Маска, Meta стремится занять лидирующие позиции в разработке следующего поколения языковых моделей. Llama 4 отличается от других моделей тем, что Meta выпускает ее абсолютно бесплатно, предоставляя возможность другим исследователям и компаниям развивать ее.

Следует отметить, что подобные достижения требуют огромного количества ресурсов. Один современный графический процессор может потреблять до 3,7 МВт·ч электроэнергии в год. Это означает, что кластер из 100 000 графических процессоров потребляет колоссальные 370 ГВт·ч в год — достаточно для питания более 34 миллионов американских домохозяйств. Эти цифры вызывают серьезные опасения относительно устойчивости энергетических поставок. Цукерберг сам упомянул, что ограничения по мощности могут стать серьезным препятствием для дальнейшего роста ИИ.

На фоне растущих энергетических потребностей, конкуренты Meta также ищут решения. Например, Илон Маск использует мобильные генераторы для питания своего кластера в Мемфисе, а Google сталкивается с проблемами выполнения своих углеродных целей, увеличив выбросы парниковых газов на 48% с 2019 года. Некоторые компании, такие как Microsoft и Amazon, начинают инвестировать в ядерную энергетику, чтобы обеспечить свои центры обработки данных необходимыми ресурсами.

Тем не менее, Meta пока не раскрыла, как именно она справляется с обеспечением энергии для своего обширного кластера. В условиях растущего давления со стороны экологических норм и требований общественности, компании необходимо найти баланс между инновациями и устойчивым развитием. Весь этот контекст создает уникальную ситуацию на рынке ИИ, где каждая компания должна учитывать не только технологические достижения, но и свои обязательства перед обществом и планетой.

_{*Meta и Facebook признаны экстремистскими, их деятельность запрещена на территории России}