NVIDIA H100 в настоящее время является самым быстрым ускорителем для рабочих нагрузок HPC, GPGPU вычислений и искусственного интеллекта. Ускоритель доступен в различных вариантах, в частности, для подключения к стандартному PCIe разъёму. В основе H100 PCIe графический процессор GH100 с 14592 FP32 CUDA ядрами, 80 ГБ HBM2e памяти с шиной 5120 бит и общей пропускной способностью около 2 Терабайт в секунду, стоимость этого решения достигает 40…50 тысяч долларов США. YouTube блогеру Geekerwan удалось заполучить сразу четыре таких ускорителя, специалист не удержался и попробовал игры.
Сначала H100 PCIe была протестирована в генеративном ИИ, не каждая модель может обеспечить поддержку этого специализированного ускорителя, но найти такую удалось и H100 оказалась быстрее GeForce RTX 4090 примерно на 30%. Два ускорителя H100 были ещё на 43% быстрее. С подключением 3-го и 4-го ускорителя производительность не увеличилась, скорее всего, тестовая потребительская платформа ограничивает возможности подобной конфигурации. В бенчмарках на тренировку нейронных сетей H100 была на 23% быстрее RTX 4090. В языковой модели LLAMA ускоритель позволил использовать все 65 миллиардов параметров, в отличие от RTX 4090, которой были доступны только 6 миллиардов, наконец, H100 была на порядки быстрее в пакете молекулярной динамики LAMMP.
NVIDIA H100 не игровая видеокарта, но почему бы не попробовать, для этого выбрали 3DMark Time Spy и Red Dead Redemption 2. Результат получился слабый, H100 была медленнее интегрированной AMD Radeon 680M. H100 и её программное обеспечение вообще не предназначены для игровых нагрузок, графический процессор заточен под вычисления, в частности, имеет гораздо меньше блоков растеризации — 24 против 160 у GeForce RTX 4090. Geekerwan рассказал о различиях между видеокартами для игр и центров обработки данных, есть субтитры с переводом, видео точно стоит посмотреть.
- Источники
- 极客湾Geekerwan, YouTube
- Wccftech
- VideoCardz
