Платим блогерам
Блоги
Fantoci
Вместо того, чтобы разрезать кремниевую пластину на отдельные микросхемы, компания Cerebras использует ее целиком для создания огромного чипа.

Если вы думали, что чип AMD MI300A с 146 миллиардами транзисторов является самым большим в мире, то вы просто еще не видели CS-3. Компания Cerebras, занимающаяся искусственным интеллектом, представила свой ИИ-чип третьего поколения под названием CS-3. Это кремниевое чудовище размером с пластину (изображение выше) предназначено для обучения искусственного интеллекта. По сути, это целая 5-нм пластина TSMC, продаваемая как один чип. CS-3 в 56 раз больше Nvidia H100 и содержит более 4 триллионов транзисторов, что делает его безусловно самым большим "чипом" в мире. Компания заявила, что это самый быстрый в мире чип искусственного интеллекта, побивший рекорд по производительности, установленный его предшественником CS-2.

реклама

Как вы уже поняли, Cerebras использует другой подход к чипам для обучения искусственного интеллекта, чем Intel, AMD и Nvidia. Вместо того, чтобы TSMC изготавливала пластину и затем разрезала ее на отдельные матрицы, Cerebras сохраняет все это в целости и сохранности. Таким образов компания собирается продавать чипы размером с пластину, которые предлагают 900 000 ядер искусственного интеллекта, 44 ГБ встроенной памяти SRAM и возможность подключения до 1,2 петабайт дополнительной памяти. Cerebras утверждает, что CS-3 способен обеспечить вычислительную производительность 125 экзафлопс при масштабировании до 2048 систем CS-3. Этот вычислительный монстр теоретически способен обучать модели искусственного интеллекта в 10 раз большие, чем ChatGPT и Gemini от Google, а при максимальном масштабировании он может обучить модель с 70 миллиардами параметров, например Llama 70B, за один день.


Новый подход компании Cerebras к созданию чипов искусственного интеллекта превзошел всех конкурентов по масштабу и размерам. Фото: ServeTheHome

По данным Serve the Home, гигантский чип Cerebras является на сегодняшний день единственным удачным ИИ-чипом от этого стартапа. Третья версия CS-чипа была изготовлена на 5-нм техпроцессе TSMC. Таким образом, CS-3 обеспечивает повышенную плотность по сравнению с предыдущей версией, но с теми же требованиями к мощности. Фактически его размер составляет внушительные 46225 мм2, что значительно превосходит все остальные чипы на рынке. Значительная экономия энергии достигается за счет сохранения целостности пластины вместо ее разделения на кристаллы, поскольку нет необходимости во всех этих энергозатратных межсоединениях, когда у вас есть тысячи графических процессоров, работающих параллельно. Cerebras утверждает, что хотя ее конкуренты (например, Nvidia) удваивают требования к энергопотреблению с каждым поколением, ее конструкция в масштабе пластины увеличила плотность, сохранив при этом энергопотребление.

Первый кластер на базе CS-3 будет развернут в Далласе, штат Техас, благодаря партнерству между Cerebras и компанией G42. Обе компании объявили о разработке нового суперкомпьютера под названием Condor Galaxy 3, который будет оснащен 64 системами CS-3 с 58 миллионами ядер искусственного интеллекта, которые будут обеспечивать производительность 8 экзафлопс в начале 2024 года, а к концу года — десятки экзафлопс. Обе компании уже используют суперкомпьютеры искусственного интеллекта под названием Condor Galaxy 1 и 2, и в течение 2024 года они соединят их с третьей версией, используя чипы CS-3. Cerebras заявила, что у нее уже есть предзаказы на свои микросхемы размером с пластину, поэтому очевидно, что существует достаточный спрос на новый дизайн в мире искусственного интеллекта.

Источник: servethehome.com
1
Показать комментарии (1)

Популярные новости

Сейчас обсуждают