Написать в блог
Блоги
molexandr

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

1 ТБ памяти суммарно при объединении восьми DGX Spark 128 ГБ.
реклама

Компания NVIDIA объявила, что мини-суперкомпьютеры для разработчиков в сфере искусственного интеллекта DGX Spark теперь поддерживают объединение в кластеры из восьми устройств, сообщает Wccftech. Ранее в кластер можно было объединить до четырёх компьютеров включительно.

Источник изображения: NVIDIA

Таким образом, восемь DGX Spark 128 ГБ можно объединить в кластер с суммарным объёмом памяти 1 ТБ, а кластер из восьми DGX Spark 64 ГБ — в кластер с суммарным объёмом памяти 512 ГБ. Это позволит работать с более крупными моделями искусственного интеллекта, увеличить контекст, запускать одновременно больше агентов. Но даже на одном DGX Spark 64 ГБ можно локально запускать относительно продвинутые модели, например, NVIDIA Nemotron 3.5 Bolt 74B-A9B, которой требуется 24 ГБ памяти.

реклама

Для повышения производительности NVIDIA выпускает оптимизированные квантованные версии популярных моделей, а также внедряет оптимизации в программное обеспечение llama.cpp и vLLM для повышения производительности на своём оборудовании. В результате DGX Spark теперь обеспечивает на 30% более высокую производительность в Qwen 3.8 27B, DGX Station — на 20% более высокую в GLM 5.3 Flash, а RTX PRO 6000 Blackwell — на 40% более высокую в Qwen 3.8 Flash-Next.

Источник: wccftech.com
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости