Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта
Рынок чипов для искусственного интеллекта пополняется новым игроком. Китайская компания Axera представила решение, которое может составить конкуренцию продуктам Nvidia и AMD.
Источник изображения: (@RadxaComputer)
Чип AX8860 построен на 16 ядрах Arm Cortex-A55 и нейронном процессоре мощностью 256 TOPS. Он изготовлен по 6-нанометровому техпроцессу и поддерживает PCIe 5.0. Производитель заявляет до 128 ГБ памяти LPDDR5X с пропускной способностью 273 ГБ/с. Энергопотребление модуля составляет 40 Вт.
В компании Sipeed протестировали чип на модели Qwen 27B. По их данным, AX8860 обрабатывает запросы на 25% быстрее, а генерирует ответы на 30% быстрее, чем Nvidia DGX Spark. При этом цена чипа почти вдвое ниже. Точная стоимость не называется, но для сравнения: DGX Spark с 128 ГБ памяти стоит от $4700 до $6950, а версия с 64 ГБ — около $5000.
Чип будет выпускаться в нескольких форматах: модуль, карта PCIe, решение с четырьмя чипами на одной плате, а также мини-ПК и карманные компьютеры. Для объединения нескольких устройств предусмотрен сетевой интерфейс на 256 Гбит/с. Два чипа вместе дают 512 TOPS, четыре — 1024 TOPS. Поддерживаются популярные фреймворки для работы с нейросетями: vLLM, SGLang и PyTorch.
У Axera есть планы на будущее. Следующая модель 8950 должна обеспечить 500 TOPS, а 8970 — более 700 TOPS. Компания Sipeed откроет предзаказ на свои устройства, включая MaixStation, в течение суток. Поставки ожидаются до конца года. Заявления о производительности пока не подтверждены независимыми тестами.