Написать в блог
Блоги
Global_Chronicles

Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Nvidia расширила возможности компактной платформы DGX Spark: теперь до восьми таких систем можно объединить в общий кластер. Для владельца это означает доступ к 1 ТБ общей памяти и возможность запускать более крупные модели искусственного интеллекта на собственном оборудовании, без облака.
реклама

Модели искусственного интеллекта становятся крупнее, при этом не каждому хочется отправлять свои данные в облако. Nvidia предложила выход для тех, кто работает с ИИ на своем оборудовании: несколько компактных систем DGX Spark теперь можно собрать в единый вычислительный комплекс.

©NVIDIA

DGX Spark — это небольшая система Nvidia для работы с искусственным интеллектом, которую можно поставить на стол. Раньше она была рассчитана на одну машину, теперь Nvidia разрешила объединять до восьми таких устройств в кластер, при этом они используют общую память объемом до 1 ТБ.

реклама

Для обычного пользователя это означает, что несколько небольших систем могут работать как один мощный компьютер. В такой связке можно запускать модели, которые не помещаются в память одного DGX Spark, при этом данные остаются на стороне владельца.

Соединение происходит через встроенный сетевой контроллер ConnectX-7, а настройкой занимается утилита NVIDIA Sync Cluster Assistant. Nvidia описывает сценарий, при котором небольшая команда использует один кластер как общий сервер: каждый участник получает собственную сессию, при этом все работают с одной моделью.

В компании называют и конкретные модели, которые можно запускать на таком кластере: Qwen 3.8 Flash Next, DeepSeek v4 Flash 0731 и GLM 5.3 Flash. Речь идет о моделях для локальной работы с текстом и агентами, при этом большой объем памяти позволяет держать в работе сразу несколько таких задач.

Вместе с кластерами Nvidia обновила и программную часть. Новая функция NVIDIA Sync Model Launcher должна упростить запуск локального ИИ: она сама скачивает нужную модель, настраивает окружение и подключает его к инструменту для программирования OpenCode.

Скорость тоже подтянули. В движке llama.cpp появилась ускоренная обработка для Qwen 3.8 Flash Next, благодаря чему агентные задачи на видеокартах RTX PRO 6000 Blackwell могут выполняться до 1,4 раза быстрее. В vLLM аналогичные улучшения ускоряют работу с Qwen3.8 27B на DGX Spark до 1,3 раза.

Для более крупных команд Nvidia также напомнила о DGX Station. Эта система рассчитана на несколько пользователей сразу, при этом предлагает 748 ГБ общей памяти и до 20 петафлопс вычислительной мощности для задач ИИ.

Версия DGX Station для Windows появится у производителей в декабре. Она позволит запускать локальные модели и агентов в привычной среде Windows, при этом Nvidia уже договорилась о поддержке с Dassault Systemes, Siemens, MathWorks и Unity.

Главная мысль обновления проста: Nvidia хочет сделать локальный ИИ не только возможным, но и удобным. Владелец нескольких DGX Spark получает гибкую систему, которую можно наращивать по мере задач, при этом не зависеть от облачных сервисов.

Источник: blogs.nvidia.com
Теперь в новом формате

Наш Telegram-канал @overclockers_news
Подписывайся, чтобы быть в курсе всех новостей!

Популярные новости