Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
На рынке видеокарт для профессиональных задач долгое время доминировали решения одного производителя. Теперь к борьбе подключается еще одна компания, и ее первый шаг в этом направлении обещает быть заметным. Речь о модели, которая создавалась с прицелом на вычисления, связанные с искусственным интеллектом.
ASUS выпустила свою первую видеокарту на базе графического процессора Intel. Модель называется UGen Intel Arc Pro B70 32 ГБ, и она предназначена для рабочих станций и задач, связанных с искусственным интеллектом. В основе лежит архитектура Intel Xe2, которая включает 32 ядра Xe и 256 процессоров XMX AI. Такая конфигурация позволяет достигать производительности до 367 TOPS в операциях с целыми числами при энергопотреблении 310 ватт.
Карта получила 32 ГБ памяти GDDR6 с коррекцией ошибок и 256-битную шину. Пропускная способность памяти составляет 608 ГБ/с. Для охлаждения используется двухслотовый турбинный кулер, а для подключения мониторов предусмотрены один разъем HDMI и три DisplayPort. Новинка работает через интерфейс PCIe 5.0 x16.
Видеокарта NVIDIA девятилетней давности стала дороже на фоне бума ИИ На свадьбе в Китае жених расплакался после подарка в виде видеокарты RTX 5090 за $12000
Одна из ключевых особенностей — возможность объединить до четырех таких плат в одной системе. В таком случае общий объем видеопамяти достигает 128 ГБ, чего достаточно для работы с моделями, содержащими до 120 миллиардов параметров. Производитель заявляет совместимость с популярными инструментами для разработки и запуска нейросетей: vLLM, llama.cpp, Ollama, PyTorch, OpenVINO, oneAPI и Vulkan. Также упоминается поддержка утилиты ASUS Zenii Claw.
В ходе тестирования под нагрузкой карта показала 188,2 токена в секунду при работе с контекстом 8K и 16 одновременными запросами. В сценарии с кэшированием GPTCache этот показатель вырос до 1334 токенов в секунду. В тесте MLPerf Client время до генерации первого токена составило 0,08 секунды, а скорость последующей генерации — 123 токена в секунду. Для тех, кто занимается локальным запуском языковых моделей, эти цифры дают представление о реальных возможностях новинки.