Платим блогерам
Блоги
Gorovic
Ускоритель Intel Gaudi 2 для ИИ установил рекорд в тесте MLPerf. Gaudi 2 продемонстрировал 3-кратное преимущество по цене и сопоставимую производительность с H100.

                                                               Источник изображения: Intel

Компания Intel опубликовала результаты последних тестов производительности своего нового ускорителя для вычислений в области искусственного интеллекта Gaudi 2 в рамках стандартизированного теста MLPerf Training v4.0. Эти тесты продемонстрировали, что Gaudi 2 может быть эффективной и недорогой альтернативой существующим системам для вычислительных нагрузок в области искусственного интеллекта. 

реклама

В тестировании принимала участие масштабируемая система на базе 1024 ускорителей Gaudi 2, развернутая в облаке Intel Tuber Developer Cloud. Эта система была использована для точной настройки производительности ускорителей на модели машинного обучения GPT-3 объемом 175 миллиардов параметров в рамках теста MLPerf.

                                                                 Источник изображения: Intel

Согласно результатам, система на базе Gaudi 2 показала время обучения модели 66.9 минут. Это сопоставимо с результатом флагманского ускорителя NVIDIA H100. Более того, в дополнительном тестировании модели Llama 2 объемом 70 миллиардов параметров с использованием адаптеров низкого ранга LoRa, система из 8 ускорителей Gaudi 2 показала время обучения 78.1 минуты. 

По заявлению Intel, ключевым преимуществом Gaudi 2 является соотношение производительности и цены. На выставке Computex было объявлено, что 8 ускорителей Gaudi 2 с универсальной базовой платой будут доступны по цене $65 000, что примерно в 3 раза дешевле аналогичных систем на базе NVIDIA. 

                                                                 Источник изображения: Intel

Как отмечает ресурс Wccftech, ряд крупных компаний уже выбрали решения Intel на базе Gaudi для своих вычислений в области ИИ, в том числе южнокорейский провайдер облачных услуг Naver и консорциум AI Sweden.

Intel также подтвердила планы опубликовать результаты тестов следующего поколения ускорителей Gaudi 3 в рамках предстоящего теста MLPerf Inference. Ожидается, что Gaudi 3 превзойдёт по производительности флагманский H100 от NVIDIA и будет конкурентоспособным по сравнению с будущим H200. Выход Gaudi 3 на рынок запланирован на осень 2024 года.

Источник: wccftech.com
1
Показать комментарии (1)

Популярные новости

Сейчас обсуждают