Китайская компания Moore Threads представила новые ускорители MTT S4000, пригодные для применения в сфере искусственного интеллекта (ИИ), сообщает Wccftech со ссылкой на официальную новость компании.
Для работы с большими языковыми моделями MTT S4000 оснастили 48 ГБ памяти GDDR6 с общей пропускной способностью 768 гигабайт в секунду (ГБ/с). Графический процессор ускорителя основан на архитектуре MUSA 3-го поколения, вычислительная производительность на операциях INT8 оценивается компания в 200 тераопераций в секунду (TOPS). Судя по опубликованным фотографиям презентации, ускоритель также поддерживает форматы FP16/BF16, TF32, FP32 с вычислительной производительностью (тераопераций в секунду, TFLOPS): 100, 50 и 25 TFLOPS соответственно.
Специалисты отмечают, что сфера применения MTT S4000 расширяется благодаря наличию видеовыходов для подключения дисплеев разрешением до 8K, а также поддержке одновременной обработки до 96 потоков 1080p. Среди других отличительных черт MTT S4000: поддержка PCIe Gen5, наличие интерфейса MTLink 1.0 для объединения нескольких ускорителей.
Вместе с новым ускорителем Moore Threads предоставила ряд других аппаратных и программных решений: построенные на базе MTT S4000 готовые кластеры и серверы, программные платформы для управления этим оборудованием, быстрого развёртывания программного обеспечения, контроля рабочих процессов, будь то обучение моделей, рендеринг, обработка потокового контента или научные вычисления.
- Источники
- Wccftech
- Moore Threads
