SK Hynix, в партнерстве с Nvidia, работает над инновационным дизайном GPU, который предполагает 3D-стопку HBM (High Bandwidth Memory) памяти непосредственно поверх процессорных ядер. Этот радикальный подход к дизайну может кардинально изменить способы взаимосвязи и производства логических и памятных устройств.
Современные HBM-стопки интегрируют от восьми до шестнадцати устройств памяти вместе с логическим слоем, действующим как центральный узел. Обычно такие стопки размещаются на интерпозере рядом с CPU или GPU и соединяются с процессором через 1024-битный интерфейс. SK Hynix планирует разместить HBM4 стопки непосредственно на процессорах, устраняя необходимость в интерпозерах. Это напоминает подход AMD с их 3D V-Cache, размещаемым прямо на кристаллах CPU, но HBM будет иметь значительно большую емкость и будет дешевле, хотя и медленнее.
SK Hynix активно обсуждает свой метод интеграции HBM4 с несколькими бескорпусными компаниями, включая Nvidia. Предполагается, что SK Hynix и Nvidia совместно разработают чип с начальной стадии и будут производить его на заводах TSMC, которые также установят устройства HBM4 SK Hynix на логические чипы, используя технологию соединения кремниевых пластин. Такой совместный дизайн необходим для обеспечения совместной работы памяти и логики на одном кристалле.
Память HBM4 будет использовать 2048-битный интерфейс для соединения с хост-процессорами, что делает интерпозеры для HBM4 чрезвычайно сложными и дорогими. Это делает прямое соединение памяти и логики экономически оправданным. Однако размещение стопок HBM4 непосредственно на логических чипах упрощает дизайн чипов и снижает затраты, но создает новую проблему: тепловыделение.
Современные логические процессоры, такие как Nvidia's H100, потребляют сотни ватт энергии и рассеивают сотни ватт тепловой энергии. Память HBM также довольно энергоемка. Таким образом, охлаждение пакета, содержащего как логику, так и память, может потребовать очень сложных методов, включая жидкостное охлаждение и/или погружение.