Южнокорейский производитель микросхем SK hynix и американский стартап TetraMem завершили совместный проект по созданию системы на кристалле на основе аналоговых вычислений в памяти (A-IMC). Результаты работы опубликованы в журнале Advanced Intelligent Systems и вынесены на обложку издания.
Изображение: ChatGPT
Прототип использует мемристорную архитектуру для выполнения свёрточных операций непосредственно в том месте, где хранятся весовые коэффициенты моделей ИИ. Это позволяет сократить количество циклов передачи данных между памятью и процессором, что особенно актуально для современных нейросетей с числом параметров от миллиардов до триллионов. Перемещение данных остаётся одним из основных источников энергозатрат, задержек и тепловыделения в вычислительных системах.
В традиционных архитектурах процессор и память разделены, и данные постоянно перемещаются между ними. Аналоговые вычисления в памяти меняют этот принцип, выполняя матричные операции прямо внутри массива памяти. Совместный проект объединил платформу TetraMem с опытом SK hynix в области современных технологий памяти. В единую полупроводниковую платформу интегрированы устройства памяти, схемотехника, архитектура ИИ, программное обеспечение и системная оптимизация.
Генеральный директор TetraMem Гленн Ге назвал завершение проекта важным этапом сотрудничества и отметил, что разработка выходит за рамки концептуального доказательства, демонстрируя практическую систему на кристалле. По его словам, вычисления с приоритетом памяти будут играть всё более значимую роль в решении проблем энергоэффективности и отвода тепла для систем ИИ нового поколения.
Для SK hynix проект является выходом за традиционные рамки производства памяти — компания известна как крупнейший поставщик DRAM и высокоскоростной памяти HBM для систем ИИ. В данном случае речь идёт о нейроморфном подходе, где вычисления интегрированы в память. Вице-президент SK hynix Су Гиль Ким подчеркнул ценность совместной работы над инновационными архитектурами для будущих ИИ-систем. Компании намерены продолжить сотрудничество в области технологий памяти и системной интеграции.
