Джон Кармак (англ. John Carmack), известный как один из основателей компании id Software, разработчик инновационных игровых движков и ключевая фигура в развитии 3D-графики, поделился своими впечатлениями о новой мини-рабочей станции NVIDIA DGX Spark. В сообщении, опубликованном в социальной сети X (заблокирована в РФ), Кармак говорит, что система не достигает заявленных целевых показателей производительности, сообщает VideoCardz.
Источник изображения: NVIDIA, Leadtek
По наблюдениям Кармака и других исследователей, NVIDIA DGX Spark достигает производительности около 480 терафлопс при вычислительных операциях с числами формата FP4 и примерно 60 терафлопс с числами формата BF16. Это меньше половины ожидаемой производительности. Энергопотребление устройства тоже более чем в два раза меньше заявленного: 100 Вт против номинальных 240 Вт. Несмотря на это под нагрузкой устройство заметно разогревается. Как минимум, есть одно сообщение об автоматических перезагрузках во время длительной работы.
реклама«Похоже, DGX Spark потребляет всего 100 Вт, что меньше половины номинальных 240 Вт, обеспечивая лишь около половины заявленной производительности (исходя из соотношения 1 PF для разреженного FP4 и 125 TF для плотного BF16). Даже на таком уровне он довольно сильно греется, и я видел сообщения о самопроизвольных перезагрузках при длительной работе. Так что, мощность была снижена перед запуском?», — Джон Кармак.
Авни Ханнун (англ. Awni Hannun), ведущий разработчик фреймворка MLX от Apple, в ответе Кармаку подтвердил схожие результаты в своих собственных бенчмарках. Он обнаружил, что производительность NVIDIA DGX Spark достигает около 60 терафлопс в матричных операциях BF16, что значительно ниже ожиданий от системы с заявленной производительностью до 1 петафлопс FP4.
Заявленная NVIDIA производительность 1 петафлопс для DGX Spark основана на структурированной разреженности — аппаратной функции, которая пропускает операции с нулевыми значениями, фактически удваивая теоретическую вычислительную производительность. Для достижения этого уровня производительности рабочие нагрузки должны быть оптимизированы для использования разреженности, что зачастую не применяется в обычных условиях. В операциях без разреженности фактическая производительность примерно вдвое меньше, что подтверждают рассматриваемые отзывы специалистов.
Мини-рабочая станция NVIDIA DGX Spark основана на «суперчипе» GB10 Grace Blackwell, который сочетает центральный процессор с ядрами Arm и графический процессор семейства Blackwell. Система стала доступна за рубежом на прошлой неделе по цене от 3999 долларов США, цены на модели от партнёров начинаются от 2999 долларов США.
