Платим блогерам
Блоги
Zelikman
Данное решение является универсальным и может подойти и для других производителей

  Недавно NVIDIA и Intel представили свои собственные чат-боты с искусственным интеллектом, и теперь AMD также присоединяется к этому тренду и предлагает решение для владельцев процессоров Ryzen и графических процессоров Radeon. Пользователи могут начать взаимодействие с чат-ботом с искусственным интеллектом, работающим на их локальном оборудовании, всего за несколько простых шагов, без необходимости иметь опыт программирования.

реклама

  Согласно руководству AMD, пользователи должны иметь либо компьютерный чип Ryzen с искусственным интеллектом, либо графический процессор серии RX 7000. В настоящее время Ryzen AI доступен только на высококлассных APU Ryzen на базе Phoenix и Hawk Point с встроенной графикой Radeon 780M или 760M. Это означает, что, возможно, Ryzen 5 8600G поддерживается, но Ryzen 5 8500G может не работать. Тем не менее, приложение указывает только "CPU с поддержкой AVX2" в качестве требования, что подразумевает его работу на широком спектре процессоров.

  Пользователям необходимо загрузить и установить LM Studio, которая имеет версию ROCm для пользователей серии RX 7000. Стоит отметить, что стандартный пакет также совместим с процессорами Intel и графическими процессорами NVIDIA. После установки и запуска LM Studio нужно просто найти нужный LLN, например, оптимизированный для чата Llama 2 7B. AMD рекомендует использовать модели с маркировкой "Q4 KM", которая относится к определенному уровню квантования и другим характеристикам. В настоящее время пользователи процессоров Ryzen могут свободно общаться с чат-ботом в чате, хотя не ясно, используется ли здесь NPU. Однако, пользователи графических процессоров серии RX 7000 должны вручную включить разгрузку графического процессора, перетащив ползунок на максимум.

  AMD предлагает простой и официальный метод запуска чат-ботов с искусственным интеллектом на процессорах AMD, Intel и NVIDIA. Например, NVIDIA уже выпустила приложение "Чат с RTX", которое работает только на их графических процессорах и имеет расширенные функции, такие как анализ документов и видео. Поддержка этого чат-бота распространяется даже на 30-ю серию графических процессоров. Intel предлагает свои решения с искусственным интеллектом для центральных процессоров и графических процессоров, но их функционал менее широк.

+
Написать комментарий (0)

Популярные новости

Сейчас обсуждают