В ближайшие годы генеративные модели искусственного интеллекта и общая производительность языковых моделей большого объема (LLM) будут играть важную роль при оценке эффективности центральных и графических процессоров. Последнее исследование Intel подчеркивает производительность LLM на флагманской видеокарте Intel Arc A770 объемом 16 ГБ для настольных ПК.

Видеокарта Intel Arc A770 стоимостью около 300 долларов сравнивается по производительности с основной моделью NVIDIA GeForce RTX 4060 объемом 8 ГБ. Согласно отчету Intel, в тестах с использованием библиотеки IPEX-LLM для PyTorch видеокарта Arc A770 демонстрирует на 70% более высокую производительность в токенах в секунду по сравнению с RTX 4060. Это стало возможным благодаря оптимизациям для оборудования Intel и использованию ускорения XMX AI. Результаты также включают последнюю модель Llama 3 LLM.

Кроме того, более емкая 16 ГБ видеопамять Intel Arc A770 лучше подходит для рабочих нагрузок ИИ, чем 8 ГБ у RTX 4060. Тем не менее, CUDA от NVIDIA по-прежнему считается стандартом в области ИИ. Но достижения Intel в этой области делают Arc A770 привлекательным вариантом для тех, кто ищет мощное и доступное решение для задач ИИ.

В целом, генеративный ИИ и производительность LLM будут ключевыми критериями при оценке эффективности современных ЦП и GPU в ближайшем будущем.