Спрос на вычисления для искусственного интеллекта продолжает расти. Теперь узким местом становится не вычислительная мощность, а скорость доступа к памяти. 

Источник: Fast Technology

Tsinghua Unigroup представила архитектуру под названием «Фиолетовая нить» (Purple String). Это решение класса 3D near-memory computing. Иначе говоря, вычисления происходят прямо рядом с памятью. Базовая технология — 3D DRAM с гетерогенной интеграцией 3.5D.

Пропускная способность достигает 30 ТБ/с. Для сравнения: память HBM3e, которую используют AMD и NVIDIA, дает всего 1,2 ТБ/с. Даже видеокарта B200 от NVIDIA выдает только 8 ТБ/с. При этом задержка доступа снижается в 18 раз в режиме PNM — вычислений вблизи памяти.

Результаты моделирования показывают: при одинаковой вычислительной мощности новая архитектура обрабатывает в 1,5–2 раза больше токенов, чем серия NVIDIA B200.

Разработка готова к крупносерийному выпуску. Компания подчеркивает: технология не зависит от зарубежных поставок и использует только китайские производственные цепочки. Конкретных сроков запуска массового производства пока нет, но сама возможность выпуска при ограничениях на передовые техпроцессы открывает для китайских ИИ-систем альтернативный путь развития.