Компании MediaTek и Qualcomm недавно объявили о совместной работе над реализацией большой языковой модели Llama 2 (LLM) на мобильных устройствах. Это означает, что аппараты на будущих процессорах этих производителей смогут работать с алгоритмами искусственного интеллекта без обращения в интернет.
Флагманский процессор MediaTek Dimensity 9300 должен быть представлен до конца года. В его составе будет программный стек с оптимизацией для работы Llama 2. Также будут использоваться обновлённый аппаратные компоненты для увеличения скорости работы приложений с генеративным ИИ. Компания Qualcomm говорила о подобных планах в июле. Намерения двух основных производителей мобильных процессоров показывают, что смартфоны в ближайшее время должны значительно поумнеть.
В частности, речь идёт об усилении конфиденциальности. Локальное выполнение означает, что данные не нужно будет передавать в интернет и принимать обратно. Это сокращает вероятность их утечки.
Dimensity 9300 включает в себя вычислительные ядра Arm Cortex-X4, A720 и графический процессор Immortalis-G720. Помимо прочего, они должны принести прирост производительности в традиционных приложениях, пишет Gizmochina.