Платим блогерам
Блоги
Nacvark
Новая платформа помогает снизить стоимость одного токена по сравнению с NVIDIA Hopper

Компания NVIDIA сообщила, что платформа Blackwell позволяет ведущим поставщикам решений для машинного обучения, включая Baseten, DeepInfra, Fireworks AI и Together AI, снизить расходы на искусственный интеллект (ИИ). Стоимость одного токена (единицы текста), создаваемого с помощью Blackwell, в 10 раз меньше по сравнению с предыдущей платформой Hopper.Источник изображения: NVIDIAСнижение расходов на машинное обучение позволяет компаниям дешевле и быстрее запускать чат-ботов с ИИ и внедрять новые отраслевые решения. В пример NVIDIA приводит ситуацию в сферах здравоохранения (Baseten и Sully.ai), разработки игр (DeepInfra и Latitude) и голосовых помощников (Agentic Chat), где расходы на генерацию решений и выполнение работы с помощью ИИ были сокращены на 25 - 90% именно благодаря платформе Blackwell.

NVIDIA обещают. что вычислительные платформы на базе Rubin (следующее поколение) поддержат этот импульс, сократив расходы и увеличив производительность в 10 раз по сравнению с Blackwell. Новая архитектура будет полагаться на чипы памяти HBM4.

Источник: blogs.nvidia.com
+
Написать комментарий (0)
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости

Сейчас обсуждают