Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
AMD пока не сообщила о дате начала продаж Halo Station. Однако система указывает на растущий рынок аппаратного обеспечения для ИИ класса рабочих станций, предоставляющего разработчикам прямой контроль над большими рабочими нагрузками с моделями, включая место обработки данных и способ развертывания моделей.
Система сочетает 96-ядерный процессор Ryzen Threadripper PRO 9995WX с четырьмя ускорителями Instinct MI350P. На IFA AMD продемонстрировала версию с двумя видеокартами, а полностью сконфигурированная модель с четырьмя ускорителями включает 576 ГБ памяти HBM3E, чего достаточно, по словам компании, для хранения модели с триллионом параметров на самой системе.
Источник: Techspot
AMD пока не объявила цены, сроки начала продаж и полные технические характеристики системы. В описании также не были подробно указаны варианты системы хранения данных, сетевых возможностей или шасси Halo Station, а также планы по продаже системы напрямую или через производителей рабочих станций и системных интеграторов.
Каждая карта Instinct MI350P включает 144 ГБ памяти HBM3E и обеспечивает пропускную способность памяти 4 ТБ/с. Система с двумя картами, продемонстрированная на IFA, имела 288 ГБ памяти HBM3E.
Этот объем памяти имеет центральное значение для назначения Halo Station. Большие модели требуют значительного объема высокоскоростной памяти для хранения и эффективной обработки данных. AMD заявила, что пропускная способность MI350P в 4 ТБ/с в 14 раз выше, чем у любого варианта LPDDR5X.
Система также имеет значительные потребности в электропитании и охлаждении. Каждый ускоритель MI350P может потреблять до 600 Вт общей мощности платы. AMD заявила, что видеокарты имеют независимую систему жидкостного охлаждения, а процессор Threadripper имеет собственную систему жидкостного охлаждения.
Threadripper PRO 9995WX под кодовым названием Shimada Peak, основан на архитектуре AMD Zen 5. Он имеет 96 ядер, 192 потока и тактовую частоту в режиме ускорения до 5,4 ГГц. Процессор поддерживает до 2 ТБ системной памяти DDR5.
Старший вице-президент и генеральный директор AMD по вычислительным системам и графике, описал продукт как новую категорию рабочих станций, призванную предоставить вычислительные возможности суперкомпьютера индивидуальным пользователям и разработчикам.