Платим блогерам
Блоги
goldas
Графические процессоры Moore Threads AI, используемые для обучения LLM с тремя миллиардами параметров выглядит вполне конкурентоспособным по сравнению с решениями Nvidia, но без указания их конкретной модели.

 Компания Moore Threads утверждает, что добилась больших успехов в разработке графических процессоров для искусственного интеллекта, и ее новейший ускоритель искусственного интеллекта S4000 работает экспоненциально быстрее, чем предшественник. Как сообщает cnBeta, режим обучения нового интеллектуального вычислительного кластера Kua'e Qianka с графическими процессорами S4000 занял третье место в тестировании ИИ, опередив несколько аналогов, состоящих из кластеров Nvidia AI GPU.

 Тестовый прогон был взят из теста стабильности кластера интеллектуальных вычислений Kua'e Qianka. Обучение заняло в общей сложности 13,2 дня и предположительно прошло идеально, без сбоев и перерывов на протяжении всего пробега. Моделью искусственного интеллекта, использованной для тестирования нового вычислительного кластера, была модель большого языка MT-infini-3B.

реклама

 Сообщается, что новый компьютерный кластер входит в число лучших кластеров GPU AI того же масштаба. Однако приведенная выше таблица явно лишена деталей. Например, кластер MTT S4000 сравнивали с неуказанными графическими процессорами Nvidia. Неизвестно, являются ли этими графическими процессорами A100, H100 или H200, но есть подозрение, что A100 наиболее вероятен. Нагрузки тоже не одинаковы. Обучение MT-infini-3B может сильно отличаться от обучения, например, Llama3-3B. 

 Тем не менее обучение LLM графических процессоров Moore Threads представляет собой важный шаг для графического процессора из Китая. Вычислительный кластер Kua'e Qianka, по крайней мере, предполагает, что графические процессоры MTT S4000 AI могут конкурировать с архитектурой Nvidia A100 предыдущего поколения. Это подтверждается необработанными показателями производительности S4000, которые не только значительно превосходят предшественников Moore Thread S3000 и S2000, но также превосходят ускорители искусственного интеллекта Nvidia на базе Turing. Хотя S4000 не соответствует ускорителям искусственного интеллекта Nvidia A100, но, возможно, он недалеко от уровня производительности Ampere.

 Для Moore Threads производительность Kua'e Qianka является огромной победой независимо от того, какие графические процессоры Nvidia или язык LLM были протестированы. Это демонстрирует, что Moore Threads теперь способна создавать графические процессоры с искусственным интеллектом, которые могут выполнять ту же работу, что и конкуренты от Nvidia, AMD и Intel. Возможно, он не будет работать лучше, но это важный шаг на пути к более быстрым и функциональным суперкомпьютерам и кластерам искусственного интеллекта.

 Это впечатляющий результат для производителя графических процессоров, основанного менее пяти лет назад. Если Moore Threads сможет продолжать обеспечивать значительные улучшения производительности от поколения к поколению, у компании вскоре может быть ускоритель ИИ, который сможет конкурировать со своими западными аналогами в ближайшие несколько лет.

 Интересно посмотреть, сможет ли Moore Threads реализовать, казалось бы, хорошие возможности производительности искусственного интеллекта в своих игровых видеокартах. На сегодняшний день графические процессоры MTT сильно проседают в игровых тестах, отчасти из-за незрелости драйверов и оптимизаций. Хотя ИИ требует больших вычислительных мощностей, он отличается от компьютерной графики в реальном времени, поэтому опыт в одной области не подразумевает аналогичных возможностей в другой.

Источник: tomshardware.com
+
Написать комментарий (0)

Популярные новости

Сейчас обсуждают