Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Компания NVIDIA объявила, что мини-суперкомпьютеры для разработчиков в сфере искусственного интеллекта DGX Spark теперь поддерживают объединение в кластеры из восьми устройств, сообщает Wccftech. Ранее в кластер можно было объединить до четырёх компьютеров включительно.
Таким образом, восемь DGX Spark 128 ГБ можно объединить в кластер с суммарным объёмом памяти 1 ТБ, а кластер из восьми DGX Spark 64 ГБ — в кластер с суммарным объёмом памяти 512 ГБ. Это позволит работать с более крупными моделями искусственного интеллекта, увеличить контекст, запускать одновременно больше агентов. Но даже на одном DGX Spark 64 ГБ можно локально запускать относительно продвинутые модели, например, NVIDIA Nemotron 3.5 Bolt 74B-A9B, которой требуется 24 ГБ памяти.
Для повышения производительности NVIDIA выпускает оптимизированные квантованные версии популярных моделей, а также внедряет оптимизации в программное обеспечение llama.cpp и vLLM для повышения производительности на своём оборудовании. В результате DGX Spark теперь обеспечивает на 30% более высокую производительность в Qwen 3.8 27B, DGX Station — на 20% более высокую в GLM 5.3 Flash, а RTX PRO 6000 Blackwell — на 40% более высокую в Qwen 3.8 Flash-Next.