Китайская компания Sipeed расширила линейку компактных систем для работы с ИИ-моделями. Новые платы серии K3 ориентированы на локальный запуск больших языковых моделей без подключения к облачным сервисам. 
Изображение - ChatGPT
Sipeed разработала серию K3 совместно с SPACEMIT. Линейка включает одноплатные компьютеры на архитектуре RISC-V для систем искусственного интеллекта, периферийных вычислений и сетевого оборудования.
Платформа использует процессор SPACEMIT Key Stone K3 AI с восемью ядрами X100 и восемью AI-ядрами A100. Чип работает на частоте до 2,4 ГГц. По данным компании, его производительность соответствует уровню ARM Cortex-A76. Архитектура Fusion обеспечивает до 130 000 DMIPS.
За обработку ИИ-задач отвечает NPU с производительностью до 60 TOPS. Он поддерживает форматы BF16, FP16, FP8, INT8 и INT4. По сути, плата рассчитана на локальный запуск больших языковых моделей объемом до 30 млрд параметров. Sipeed также заявляет работу Qwen-3.5 35B со скоростью до 15 токенов в секунду.
Серия поддерживает до 32 ГБ памяти LPDDR5-6400 с пропускной способностью до 51 ГБ/с. Компания предлагает версии с 8, 16 и 32 ГБ памяти. Устройства получили интерфейс PCIe Gen3, USB 3.0, два порта USB Type-C с USB-PD и Alt-DP, а также встроенный 10-гигабитный Ethernet.
Модуль K3 CoM260 совместим с NVIDIA Jetson Orin Nano. Платы работают с Ubuntu 26.04 и ROS. Цена одноплатного компьютера K3 с 8 ГБ памяти составляет 299–309 долларов США, а версия с 32 ГБ памяти стоит 629–639 долларов США.
