Платим блогерам
Блоги
Global_Chronicles
Издание WCCFTech сообщает, что новая архитектура NVIDIA Blackwell Ultra увеличивает эффективность агентного ИИ до 50 раз по показателю токен/ватт

На WCCFTech рассказали, что индустрия искусственного интеллекта смещается в сторону агентных вычислений. Приложениям требуется все больше пропускной способности памяти и производительности. NVIDIA представила результаты тестирования Blackwell Ultra — и цифры выглядят внушительно.

Источник изображений: WCCFTech / NVIDIA

Ключевой показатель сейчас — токены на ватт. Для гипермасштабируемых облачных платформ это один из главных критериев. Blackwell Ultra демонстрирует до 50-кратного увеличения токенов на ватт, по сравнению с предыдущей архитектурой Hopper. Компания оптимизировала не только вычислительные узлы, но и конструкцию стоек, что позволяет масштабировать систему без потери производительности. При обработке длительных последовательностей архитектура снижает стоимость токена в 1,5 раза по сравнению с предыдущими поколениями. Эффективность Blackwell Ultra обеспечена сочетанием высокой пропускной способности NVLink, объединением 72 GPU и точности NVFP4. Сейчас архитектура активно интегрируется с гипермасштабируемыми платформами и справляется с задачами высокой сложности и длительного контекста.

Источник: wccftech.com
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости