AMD продолжает укреплять свои позиции в области ИИ-вычислений. Новый актив AMD — канадский стартап Taalas. Он занимается чипами для вывода ИИ-моделей, так называемого inference. Главная особенность разработки — решение проблемы «стены памяти», когда процессоры простаивают в ожидании данных. Taalas обходит это ограничение, вшивая параметры модели прямо в транзисторы.

Изображение: WCCFTech

В чипе HC1 все возможные результаты математических операций для 4-битных весов модели уже предварительно вычислены. Каждый вес представлен одним транзистором типа «Mask ROM». На этапе производства в него встраивается микроскопическое физическое соединение, которое связывает транзистор с одной из 16 предварительно рассчитанных линий. Когда данные проходят через чип, транзистор просто выбирает нужный канал и передает его сумматору. По сути, математика модели не хранится в отдельной памяти, а физически вплетена в проводники. Чипу не нужно ничего загружать или извлекать — схема одновременно является и памятью, и вычислителем.

Платой за это становится узкая специализация: такой чип работает только с той моделью, для которой был спроектирован. Похожий подход использует Groq LPU, где веса ИИ-модели также зашиваются непосредственно в SRAM, минуя кэш-память. Покупка Taalas дополняет стратегию AMD по развитию системы Helios. Ранее компания договорилась с Cerebras о применении их Wafer-Scale Engine — гигантского чипа, объединяющего сотни тысяч ядер и десятки гигабайт SRAM на одном кремниевом диске. Это позволяет данным перемещаться внутри системы без внешних сетевых узких мест.