Сейчас большинство современных устройств и технических систем, от смартфонов и ПК до серверов центров обработки данных, содержат графические процессоры (GPU), а также аппаратные ускорители для ИИ и машинного обучения.
Это относится, например, к тензорным ядрам на графических процессорах Nvidia, тензорным процессорам (TPU) на серверах Google Cloud, нейронным механизмам на Apple iPhone или Edge TPU на телефонах Google Pixel.
В исследовании ученые из Калифорнийского университета в Риверсайде (UCR) показали метод, при котором различные компоненты работают одновременно. Таким образом, можно существенно увеличить скорость обработки и снизить потребление энергии. Исследователи называют свою новую систему одновременной и гетерогенной многопоточностью (SHMT).
SHMT использует несколько компонентов, разделяя между ними выполняемые вычислительные функции, тем самым вводя параллельную обработку. Чтобы проверить свою концепцию, исследователи создали систему с типом чипов и вычислительной мощностью, которые есть в каждом новом смартфоне. Позже они внесли некоторые изменения, чтобы проверить жизнеспособность этого подхода в центрах обработки данных.
Они использовали стандартные компоненты, которые соединяли друг с другом через интегрированный интерфейс PCIe. Решение было протестировано под Ubuntu Linux 18.04. Для тестов использовались бенчмарк-приложения, что несколько ограничивает заявления о его пригодности для повседневного использования.
Этот тип тестирования показывает, что программная среда привела к увеличению скорости до 1,95 раза и снижению энергопотребления на 51% по сравнению с немодифицированным подходом. Исследователи UCR полагают, что это может оказать существенное влияние на рынок. Могут появиться более быстрые, дешевые и энергосберегающие продукты.
С одной стороны, существующие модифицированные продукты могут обеспечить огромный прирост производительности, но с другой стороны, эту концепцию можно использовать для достижения той же производительности, что и раньше, со значительно более дешевыми компонентами. В центрах обработки данных аспект снижения энергопотребления сыграет важную роль, поскольку технология может снизить выбросы углекислого газа и потребление воды.
Продукт еще не готов к выходу на рынок и требует дальнейших исследований. Специалисты впервые рассказали о разработке на форуме Micro 2023 в Торонто в начале ноября 2023 года.