Imagination разработала аппаратный ускоритель работы нейронных сетей

Как ни печальна текущая судьба компании Imagination Technologies, но она пытается сделать всё, чтобы её разработки не потеряли актуальность. Более того, компания заглядывает в будущее, предлагая прямо сейчас решения, которые потенциально способны перевернуть индустрию, как когда-то сделали центральные и графические процессоры для мира компьютеров (с неймановской логикой). Что у нас на слуху? Правильно! Сейчас только ленивый не говорит об искусственном интеллекте и ускорителях для решения задач, связанных с ИИ.

В основе современных платформ для ИИ лежат нейронные сети и логика, отличающаяся от предложенной математиком Джоном фон Нейманом. В принципе, графические процессоры могут эмулировать работу нейронных сетей, чем уже воспользовалась NVIDIA и чем будет пользоваться Imagination. В пятницу компания Imagination Technologies на базе архитектуры PowerVR представила самостоятельное и лицензируемое IP-решение (доступное для лицензирования) в виде ускорителя нейронных сетей PowerVR Series2NX NNA (Neural Network Accelerator).

По словам разработчика, блок PowerVR Series2NX NNA может работать как самостоятельно в виде дополнения к любым CPU и GPU, так и в составе SoC или другого процессора. По сравнению с конкурирующими решениями PowerVR Series2NX NNA показывает вдвое большую производительность с одновременным сужением шины доступа к памяти ровно вполовину. Поясним, для работы нейронные сети требуют увеличения пропускной способности к подсистеме памяти, что является проблемой для мобильных и компактных платформ.

Разработка Imagination позволяет обойти это ограничение, позволяя менять глубину разрядности с 16 бит до 4 бит. По оценкам разработчика, это не повлияло на общую производительность ускорителя, который показывает лучшее на сегодня соотношения операций по принятию решений (inference) по отношению к потреблению и площади кристалла. Если говорить о цифрах, то каждое ядро ускорителя обеспечивает производительность на уровне 2048 MACs/cycle.

Блоки PowerVR Series2NX NNA позволяют работать с такими вариантами нейронных сетей, как Convolutional Neural Networks (CNN или свёрточные), Recurrent Neural Networks (RNN или рекуррентные) и Long Short Term Memory networks (LSTMs). Также решение поддерживает Google Tensorflow Lite (API для Android) и фреймворк Caffe2Go. Разработчик видит PowerVR Series2NX NNA в составе смартфонов, автомобилей, систем наблюдения и в других сферах, где требуются определение траекторий движения объектов, распознавание лиц, голоса и другого. У подобных платформ безграничные перспективы и Imagination уверена, что эту ложку мимо её рта не пронесут.

Telegram-канал @overclockers_news - это удобный способ следить за новыми материалами на сайте. С картинками, расширенными описаниями и без рекламы.
Оценитe материал
рейтинг: 4.5 из 5
голосов: 8

Возможно вас заинтересует



Сейчас обсуждают