NVIDIA продолжает развивать свои технологии в области искусственного интеллекта, выпуская новый микросервис DeepSeek-R1. Этот инструмент ориентирован на разработчиков, стремящихся оптимизировать развертывание ИИ-приложений и повысить эффективность своих решений.
Компания NVIDIA объявила о том, что модель DeepSeek-R1 теперь доступна в качестве предварительной версии микросервиса NVIDIA NIM на сайте build.nvidia.com. Микросервис DeepSeek-R1 NIM может обслуживать до 3872 токенов в секунду на одной системе NVIDIA HGX H200. Разработчики могут тестировать и экспериментировать с интерфейсом API, который вскоре станет доступен в виде загружаемого микросервиса NIM, являющегося частью программной платформы NVIDIA AI Enterprise. Микросервис NIM DeepSeek-R1 упрощает развертывание за счет поддержки стандартных отраслевых API. Предприятия могут максимально повысить безопасность и конфиденциальность данных, запустив микросервисы NIM в предпочитаемой ими ускоренной вычислительной инфраструктуре. Используя NVIDIA AI Foundry с программным обеспечением NVIDIA NeMo, компании также смогут создавать настраиваемые микросервисы DeepSeek-R1 NIM для специализированных агентов ИИ.
В марте 2024 года NVIDIA планирует запустить облачные микросервисы NIM, которые упростят развертывание генеративных моделей ИИ в любых условиях. Эти микросервисы используют стандартные API, что позволяет разработчикам сосредоточиться на создании качественного продукта, минимизируя сложности разработки.