Источник изображения: Will Bryk/X
Компания ExaAILabs объявила о запуске одного из первых в индустрии кластеров Exacluster, основанных на графических процессорах Nvidia H200 Hopper, предназначенных для искусственного интеллекта и высокопроизводительных вычислений (HPC), сообщает Tom's Hardware. Генеральный директор компании Уилл Брайк (Will Bryk) сказал, что этот кластер будет использоваться для создания поисковой системы, способной лучше понимать запросы пользователей и выдавать более точные результаты поиска по сравнению с Google.
Exacluster не претендует на достижение производительности в масштабе ExaFLOPS, а название его происходит от количества серверов в кластере и мощности, которую они предоставляют. В состав кластера входят 18 серверов, каждый из которых оснащён восемью GPU Nvidia H200. В общей сложности, кластер включает 144 GPU H200 с объёмом памяти HBM3E в 20 ТБ, что обеспечивает комбинированную вычислительную мощность в 569 958 тераопераций в секунду.
Техническая конфигурация кластера включает в себя 192 96-ядерных процессора, что в сумме дает 3456 ядер, а также 36 ТБ оперативной памяти DDR5 и 270 ТБ NVMe твердотельной памяти. Энергопотребление суперкомпьютера составляет 100 кВт. Учитывая теплоотдачу, в каждый стойку устанавливается только по два таких устройства, обеспечивается им адекватное охлаждение с помощью стандартного воздушного, которого, по словам Брайка, достаточно для длительной работы под нагрузкой.
Стоимость всего кластера составляет около $5 млн, что приводит к цене в $277 777 за машину. Это сравнимо с ценой одной базовой платы с 8 GPU H200. Стоит сказать, что Nvidia является одним из ведущих инвесторов ExaAI, наряду с Lightspeed и YCombinator, что могло повлиять на ранний доступ к новейшим технологиям.
По традиции, компании, связанные с Nvidia, получают оборудование раньше других. Однако, возможно, ExaAI удалось обеспечить своё оборудование благодаря не только своим связям, но и тому, что их проект по использованию ИИ является уникальным и вызывает большой интерес. Конечная цель ExaAI — это создание поисковой системы, способной обрабатывать сложные запросы и возвращать качественные результаты, что может радикально изменить современный поиск.
