На этой неделе Apple анонсировала новый Mac Studio, в сердце которого находится чип M3 Ultra. Этот процессор стал самым мощным в линейке компании и уже успел установить новые рекорды производительности.

Чип M3 Ultra оснащен 32-ядерным центральным процессором и 80-ядерным графическим процессором, что позволяет ему значительно превзойти своего предшественника, M2 Ultra. При этом его производительность особенно впечатляет при запуске модели DeepSeek R1, которая содержит 671 миллиард параметров и требует значительных вычислительных ресурсов.

Модель DeepSeek R1 весит целых 404 ГБ и нуждается в памяти с высокой пропускной способностью, что обычно достигается с помощью мощных GPU. Однако чип M3 Ultra предлагает унифицированную архитектуру памяти, что позволяет использовать общую память для всех нужд, включая задачи, требующие большой VRAM. Это решение не только упрощает архитектуру системы, но и значительно снижает потребление энергии.

На канале YouTube Dave2D подробно рассмотрели, как M3 Ultra справляется с DeepSeek R1. Обычные ПК для работы с подобными моделями часто требуют несколько GPU, что приводит к высокому уровню энергопотребления. В отличие от этого, Mac Studio с M3 Ultra успешно запустил модель, потребляя менее 200 Вт энергии. Для сравнения, традиционная конфигурация с несколькими графическими процессорами могла бы потреблять в десять раз больше.

Модель DeepSeek R1 успешно и без сбоев работала на M3 Ultra Mac Studio, и хотя это 4-битная квантованная версия, которая жертвует точностью, модель все равно сохранила свои 671 миллиард параметров и показала себя на удивление хорошо.