Ganesh Ravikumar, Unsplash

NVIDIA заблаговременно сообщила об одном из улучшений в новой версии графического драйвера 532.03, который станет доступен сегодня. Драйвер значительно увеличит производительность приложений на базе генеративного ИИ, в частности, Stable Diffusion — популярной нейросети для создания изображений по текстовому описанию. Компания заявляет о более чем двукратном приросте производительности на GeForce RTX 4090 при генерации изображений в дистрибутиве Automatic1111. Похоже, чтобы достичь таких показателей, потребуется выполнить дополнительное условие.

Источник: NVIDIA

Microsoft выпустила инструментарий Microsoft Olive для оптимизации и преобразования моделей PyTorch в ONNX с аппаратным ускорением на графическом процессоре и тензорных ядрах видеокарт RTX. Заявленный прирост производительности достигнут не только за счёт использования нового драйвера, но и оптимизированной с помощью Olive модели для генератора Stable Diffusion.

Также NVIDIA анонсировала новую технологию Max-Q для снижения энергопотребления графических ускорителей RTX при ИИ нагрузках. Технология оптимизирует производительность тензорных ядер для максимально низкого энергопотребления, что позволит увеличить время автономной работы мобильных систем и снизить уровень шума.

Источники

NVIDIA