Honor интегрирует большую языковую модель (LLM) в новый смартфон

В смартфонах Honor используются генеративные языковые модели ИИ для работы нового персонального помощника под названием Yoyo.
9 февраля 2024, пятница 12:50
kosmos_news для раздела Блоги

После ажиотажа вокруг генеративного искусственного интеллекта и ChatGPT появление языковых моделей на смартфонах — лишь вопрос времени. Google уже объявила, что будет глубокая интеграция конкурента ChatGPT инструмента Gemini на Android. В Apple также есть признаки того, что большие языковые модели (LLM) будут играть важную роль в новинках компании.

Изображение: HonorНе отстает и  Honor. Новый смартфон Honor Magic6 оснащен встроенным собственным ИИ-инструмент LLM. Языковая модель основана на 7 миллиардах параметров и, следовательно, является одним из небольших вариантов LLM.

Смартфон оснащен недавно представленным чипом Snapdragon 8 Gen 3, который, как сообщается, имеет значительно увеличенную скорость процессора по сравнению со своим предшественником. Что интересно, LLM предназначен для работы не в облаке, а на самом устройстве. 

Пользователям смартфона следует взаимодействовать через голосового помощника Yoyo, который установлен на устройстве и позиционируется Honor как аналог Siri или Google Assistant. 

Пока неизвестно, насколько хорошо LLM работает на устройстве и как влияет на энергопотребление. С 7 миллиардами параметров он, вероятно, не приблизится к тому, к чему многие пользователи уже привыкли в ChatGPT Plus (GPT-4) — но для подсказки основных функций смартфона этого, вероятно, будет достаточно. 

Сообщается, что «данные на устройстве должны оставаться в безопасности и быть защищены». Это сделано для того, чтобы персональные данные пользователя не утекали в облако для продолжения обучения LLM.

Имея небольшую долю рынка в западных странах, Honor, конечно, не является компанией, которая формирует новые тренды. Однако интеграция LLM показывает, что новые модели искусственного интеллекта быстро внедрятся в мир мобильных устройств.