Компания SanDisk представила концепцию новой архитектуры памяти под названием High-Bandwidth Flash (HBF) для ускорителей искусственного интеллекта, сообщает Guru3D. Архитектура является попыткой найти сбалансированное решение по производительности, ёмкости, энергоэффективности и стоимости без полного отказа от скоростной памяти High Bandwidth Memory (HBM) в условиях дефицита и высоких цен. Предложение также отражает более широкую тенденцию: производители ищут новые иерархии памяти для всё более требовательных рабочих нагрузок искусственного интеллекта.
Источник изображения: ИИ-генерация ChatGPT
Вместо размещения хранилища данных вдали от графического процессора, компания SanDisk предлагает использовать передовые методы упаковки для вертикального расположения кристаллов NAND вблизи графического процессора. Современные графические ускорители оснащаются скоростной памятью HBM суммарным объёмом от 32 до 64 ГБ и более. Память HBF может масштабироваться до примерно 4 ТБ. Это позволит размещать рядом с GPU большие наборы данных.
HBM продолжит обрабатывать задачи, чувствительные к задержкам, и высокоприоритетные задачи обработки в реальном времени, в то время как HBF будет выступать в качестве высокопроизводительного хранилища для больших моделей искусственного интеллекта и наборов данных.
В планах SanDisk также работа над более продвинутой реализацией с использованием конструкции CMOS Bonded Array (CBA). В этой конфигурации HBF NAND планируют располагать непосредственно под графическим процессором, чтобы сократить пути передачи данных, повысить эффективность передачи и уменьшить задержку.
Несмотря на свой потенциал, технология HBF пока остаётся скорее долгосрочным предложением, чем продуктом ближайшей перспективы. Серьёзные технические ограничения пока остаются нерешёнными. Особенно сложным будет управление тепловым режимом, если NAND-память будет размещена непосредственно под мощными графическими процессорами для искусственного интеллекта. Сложность производства, стоимость упаковки и интеграция компонентов в единый корпус также потребуют значительных усилий по разработке.
