Вслед за успехом ChatGPT появляется всё больше сервисов генеративного искусственного интеллекта. Проблема в том, что обработка данных происходит удалённых серверах. Производители всё чаще стараются избежать отправки данных в интернет и выполнять обработку локально. Для этого выпускаются процессоры с соответствующими компонентами.
Аналитическая фирма IDC считает, что по итогам нынешнего года компьютеров и смартфонов с поддержкой генеративного искусственного интеллекта будет 295 млн против 29 млн по итогам прошлого года. У них будут специальные ускорители или вычислительные ядра искусственного интеллекта, нейронной обработки и ускоренные вычислительные блоки или тензорные вычислительные блоки. Ранее появлялась информация о том, что производители компьютеров собираются представить модели с поддержкой ИИ примерно в июне. Microsoft в обновлении Windows 11 24H2 собирается делать ставку на подобные ПК.
Разрабатывающие большие языковые модели компании создают модели поменьше для локальной работы на устройства. В качестве примера можно назвать Llama 2 7B с объёмом меньшим по сравнению с моделями 13B и 70B.
На долю смартфонов с GenAI в этом году придётся 240 млн экземпляров. Компьютеров за этот год может быть выпущено 54,5 млн. Это означает, что смартфоны и компьютеры с ИИ займут 22% рынка.
После этого дело будет за разработчиками программного обеспечения, которые должны будут в полной мере воспользоваться новыми аппаратными возможностями.
