AMD представила серию ускорителей вычислений Instinct MI300, в состав которой входит MI300A — уникальный гибридный серверный APU (Accelerated Processing Unit). MI300A объединяет с помощью многокристальной, многоуровневой компоновки и скоростных межсоединений 6- и 5-нм кристаллы с кэш-памятью и системой ввода-вывода, процессорными ядрами Zen 4, графическими ускорителями на базе архитектуры CDNA 3, стеками HBM3 памяти. Ни у одного из конкурентов AMD на данный момент нет продуктов с подобной комбинированной компоновкой, пишет AnandTech. Хотя NVIDIA представила ускорители GH200 (Grace Hopper), являющиеся связкой Arm процессора и графического ускорителя, Instinct MI300A от AMD реализует подобное сочетание на одном чипе, в то время как NVIDIA GH200 интегрирована на модульном уровне, объясняет японское издание PC Watch.
В составе Instinct MI300A используется 146 миллиардов транзисторов, вычислительных чиплетов 13, из которых 3 процессорных содержат 24 ядра Zen 4, ещё 6 — ускорители CDNA 3. Под ними 4 базовых чиплета, объединяющих кэш-память и систему ввода вывода. Скоростными межсоединениями чиплеты связываются с HBM3 памятью суммарным объёмом 128 ГБ.
Также AMD представила ускоритель Instinct MI300X, состоящий из 153 миллиардов транзисторов. В MI300X три чиплета с процессорными ядрами заменили на два чиплета CDNA 3 — это уже чиплетный графический процессор, а не APU. Вариант предлагает 192 ГБ HBM3 памяти с пропускной способностью 5,2 ТБ/с. Один модуль Instinct MI300X способен обрабатывать масштабные языковые модели наподобие Falcon-40B (40 миллиардов параметров). Для ещё более сложных задач по восемь MI300X объединяются на одной платформе под названием Infinity — суммарный объём памяти составит 1,5 ТБ.
Ожидается, что ускорители Instinct MI300 будут в 5 раз лучше решений CDNA 2 по производительности на ватт, в том числе, за счёт поддержки новых математических форматов. Относительно Instinct MI250X на базе CDNA 2 компания прогнозирует повышение производительности задач ИИ в 8 и более раз.
Образцы Instinct MI300A уже производятся и отправляются клиентам, производство MI300X начнётся в третьем квартале этого года.