В последнее время в сегменте искусственного интеллекта наблюдается быстрый прогресс, а крупные технологические компании вкладывают много ресурсов, чтобы удовлетворить потребности рынка и увеличить производительность ИИ. Компании NVIDIA и AMD активно проектируют и воплощают в кремнии графические процессоры следующего поколения с учетом нужд ИИ и HPC, но похоже, что у них появился серьезный конкурент. Британская компания Graphcore представила свой чип второго поколения для ИИ, который напрямую конкурирует с ускорителем NVIDIA A100.

 Чип получил название Colossus MK2 GC200. Он предназначен исключительно для работы в сфере искусственного интеллекта. Как и его название, сам чип имеет колоссальный размер и обеспечивает 8-кратное увеличение производительности по сравнению со своим предшественником MK1.

 "Мы на 100% сосредоточены на кремниевых процессорах для искусственного интеллекта и на системах, которые могут подключаться к существующим центрам. Зачем нам создавать ЦП или ГП, если они уже работают хорошо? Это просто другой набор инструментов", - сказал генеральный директор Graphcore Найджела Туна

 Colossus MK2 GC200 изготовлен по 7-нм техпроцессу TSMC и имеет размер матрицы 823 мм². Для сравнения, он почти такой же большой, как ускоритель GPU NVIDIA A100, размер которого равен 826 мм². Чип является не только гигантским по размерам, но и по плотности, имея в общей сложности 59,4 миллиарда транзисторов на борту в сравнении с 54,2 миллиардами транзисторов в графическом процессоре NVIDIA A100.

  Colossus MK2 GC200 содержит 1472 IPU (Intelligence Processing Unit), каждый из которых имеет само ядро IPU и внутрипроцессорную память. Каждое ядро IPU состоит из 6 параллельно работающих потоков, в результате чего общее количество потоков в чипе составляет 8832. Что касается памяти, то чип располагает 900 Мб на IPU с пропускной способностью памяти 47,5 Тб/с. Graphcore заявил, что теоретически можно получить больше емкости при использовании нескольких стоек одновременно, и пул памяти в итоге окажется выше по сравнению со стойкой, состоящей из графических процессоров A100.

 Для обеспечения внутренней взаимосвязи чип использует шину IPU-Exchange, которая обеспечивает пропускную способность 8 Тб/с для всех IPU. Каждый чип имеет 10 каналов, которые обеспечивают пропускную способность между ними до 320 Гб/с. MK200 также поддерживает интерфейс PCIe Gen 4 (x16). Что касается производительности, то Colossus MK2 MK200 обеспечивает 250 TFLOP в режиме FP16 и 62,5 TFLOP в режиме FP32. Для сравнения графический процессор NVIDIA A100 обеспечивает в общей сложности 312 TFLOP в режиме FP16 и 19,5 TFLOP в режиме FP32.

 Помимо Colossus MK200, Graphcore также представил своего конкурента стойке NVIDIA DGX A100 под кодовым названием IPU-M2000. Эта стойка состоит из четырех MK200, каждый из которых предлагает объединенный пул памяти объемом 450 Гб. Управляющий процессор представляет собой четырехъядерный ARM чип Cortex-A, а система оснащена корпусом 1U с усовершенствованной системой охлаждения.

 К каждому IPU прикреплен блок радиатора с алюминиевыми ребрами, который оснащен шестью массивными тепловыми трубками, которые ведут к массивному блоку в задней части стойки, который охлаждается несколькими вентиляторами.

 Graphcore сравнил производительность восьми стоек M2000 IPU-Machine с одним DGX-A100, включающем 8 GPU A100. Graphcores сообщает, что их решение предлагает в 12 раз большую производительность FP32, в 3 раза большую производительность FP16 и в 10 раз больше памяти по сравнению с решением NVIDIA.

 В дополнение к этим показателям производительности, Graphcore говорит, что её платформа является очень гибкой в том смысле, что может использовать до 64 000 микросхем, работающих вместе, что позволит обеспечить огромные 16 Exaflops вычислительной мощности.

 Что касается доступности, то Graphcore заявляет, что клиенты могут сделать предварительный заказ на IPU-Machine с сегодняшнего дня, а поставки в полном объеме начнутся в 4 квартале 2020 года.