На своем первом крупном мероприятии для инвесторов после отделения от Western Digital компания SanDisk представила свою новую технологию для рынка ИИ. У компании есть новая архитектура памяти, называемая флэш-памятью с высокой пропускной способностью, которая объединяет огромную емкость хранения 3D NAND с типом пропускной способности, предлагаемой HBM.
Это гибридное устройство объединяет колоссальные 16 слоев новейших кристаллов 3D NAND от SanDisk, используя крошечные конвейеры данных, называемые сквозными кремниевыми переходами. Также есть специальный логический слой, который может параллельно передавать данные в отдельные подмассивы NAND. Это приводит к тому, что HBF упаковывает в 8–16 раз больше емкости на стек, чем сегодняшние реализации HBM.
В одном из примеров системы SanDisk из восьми стеков HBF, может обеспечить невероятные 4 терабайта емкости для хранения сложных моделей ИИ, таких как GPT-4, непосредственно на графическом процессоре.
Ключевым новшеством, по-видимому, является то, что архитектура HBF нарушает традиционные конструкции NAND, разделяя каждый кристалл на множество крошечных подмассивов, к которым можно осуществлять случайный параллельный доступ, а не рассматривать их как более крупные плоскости на основе блоков. Это обеспечивает высокую пропускную способность, сохраняя при этом преимущества NAND по стоимости и емкости.
Конечно, ахиллесовой пятой NAND всегда была более высокая задержка по сравнению с технологиями DRAM, такими как HBM. Как отметил портал Tom's Hardware, HBF ничем не отличается и, очевидно, не соответствует молниеносным скоростям DRAM. Новая архитектура нацелена на интенсивные рабочие нагрузки вывода ИИ, которым требуется высокая пропускная способность и емкость, но способные выдерживать более высокую задержку.
Есть еще некоторые препятствия, которые необходимо преодолеть этой технологии. SanDisk умолчала о том, как она обойдет ограничения выносливости записи NAND, а также сложную адресацию на основе блоков, которая может затруднить произвольный доступ. Также пока неизвестно, какие показатели пропускной способности может достичь HBF.
Несмотря на оставшиеся вопросы, похоже, что SanDisk видит большой потенциал в новой технологии. Компания хочет, чтобы HBF стал открытым стандартом, дополняющим HBM в оборудовании, таком как графические процессоры. Чтобы добиться этого, она уже ищет партнеров и планирует три полных поколения разработки HBF, что предполагает серьезные долгосрочные инвестиции.
В конечном итоге SanDisk надеется, что технология попадет из высокопроизводительных систем ИИ в потребительские устройства, такие как смартфоны.
