Компания Stability AI опубликовала в блоге результаты сравнительного тестирования графических ускорителей Intel Gaudi 2, NVIDIA H100 и A100 при работе с различными моделями искусственного интеллекта (ИИ), сообщает Wccftech. Тесты показали конкурентоспособность решений Intel и то, что они могут рассматриваться как альтернатива ускорителям NVIDIA.
Источник изображения: Steve Johnson, Unsplash
Одной из тестовых моделей стала Stable Diffusion 3 (вариант с 2 миллиардами параметров) для создания изображений по текстовому описанию. Кластер с ИИ-ускорителями Intel Gaudi 2 показал 56-процентное преимущество, по сравнению с кластером на базе NVIDIA H100, и был в 2,43 раза быстрее, при сравнении с кластером из ускорителей NVIDIA A100. Это результаты при одинаковых параметрах задачи, но благодаря большей видеопамяти (Gaudi 2 оснащён 96 ГБ, в то время как H100 и A100 80 ГБ) нагрузку на кластер с ускорителями Intel можно повысить, получив дополнительный 35-процентный прирост производительности — скорость обработки возрастает до 1254 изображений в секунду.
Источник изображения: Stability AI
Но у NVIDIA есть туз в рукаве. Описанные выше результаты получены при работе с базовой версией фреймворка PyTorch. Ускорители NVIDIA получают большой прирост производительности с оптимизатором TensorRT, в этом случае NVIDIA A100 создаёт изображения на 40% быстрее Intel Gaudi 2. Однако специалисты Stability AI считают, что с дальнейшей оптимизацией Intel Gaudi 2 превзойдёт NVIDIA A100 и в таком сравнении.
