На фоне растущей конкуренции на рынке чипов для искусственного интеллекта, Microsoft представила свой новый ускоритель Maia 100. Этот чип, разработанный для работы в облачных сервисах, призван предложить альтернативу существующим решениям, доминирующим на рынке, особенно продукции NVIDIA. На конференции Hot Chips компания продемонстрировала, как Maia 100 будет использоваться для различных ИИ-приложений в Azure.

Maia 100 построен на 5-нм техпроцессе TSMC и ориентирован на оптимизацию производительности и снижение затрат. Площадь чипа составляет примерно 820 мм², что позволяет интегрировать в него множество функций, необходимых для обработки больших объемов данных. Ускоритель оснащен четырьмя кристаллами HBM2E, что обеспечивает общую пропускную способность в 1,8 терабайта в секунду и 64 гигабайта памяти. Хотя объем памяти меньше, чем у некоторых конкурентов, таких как NVIDIA H100, фокус Microsoft на стоимости и эффективности делает Maia 100 привлекательным вариантом для облачных решений.

Maia 100 имеет TDP 500 Вт, с возможностью увеличения до 700 Вт для высокопроизводительных задач. Это делает чип идеальным для выполнения сложных вычислений и обработки больших данных. В архитектуре Maia 100 предусмотрен высокоскоростной тензорный блок 16xRx16, который поддерживает широкий спектр типов данных, включая FP32 и BF16. Это позволяет ускорителю эффективно выполнять как обучение, так и вывод, что критически важно для AI-приложений.

Разработка Maia 100 включает в себя не только аппаратные, но и программные решения. Maia SDK предоставляет разработчикам инструменты для переноса моделей, созданных в таких популярных фреймворках, как Pytorch и Triton. Это упрощает процесс интеграции и позволяет максимально эффективно использовать возможности нового чипа. Кроме того, SDK предлагает инструменты для управления устройствами и планирования задач, что значительно облегчает работу разработчиков.

Microsoft акцентирует внимание на вертикальной интеграции аппаратного и программного обеспечения, что позволяет оптимизировать производительность и повысить энергоэффективность. Это подход, который может значительно снизить затраты на облачные ИИ-решения. Кроме того, алгоритмическое совместное проектирование обеспечивает более глубокую интеграцию между аппаратными и программными компонентами, что открывает новые горизонты для разработки и внедрения ИИ-технологий.

С выходом Maia 100 Microsoft делает серьезный шаг на пути к созданию кастомизированного оборудования для искусственного интеллекта, что может кардинально изменить ландшафт рынка. В условиях, когда NVIDIA контролирует более 75% этого сегмента, появление нового игрока может привести к значительным изменениям в ценовой политике и предложениях на рынке.

Пока что Maia 100 нацелен на облачные рабочие нагрузки, однако его архитектура и возможности могут быть адаптированы для других приложений. Microsoft уже продемонстрировала, как этот чип может использоваться в Azure, и, вероятно, в будущем мы увидим его применение в других продуктах компании.

Подробный обзор архитектуры Maia 100 можно найти в технической публикации Microsoft «Inside Maia 100».