Канадская компания Cohere представила новую модель искусственного интеллекта под названием Command A. Эта разработка нацелена на легкие приложения и обещает эффективность, сопоставимую с известными аналогами, такими как GPT-4o.
Command A выделяется тем, что его можно развернуть с использованием всего двух графических процессоров NVIDIA A100 или H100. Это значительно меньше, чем у конкурирующих моделей, требующих до 32 GPU.
Компания утверждает, что новая модель поддерживает длину контекста до 256k и работает на 23 языках. В тестах производительность Command A составила до 156 токенов в секунду, что на 1,75 раза быстрее, чем у GPT-4o. Cohere также отмечает, что Command A демонстрирует хорошие результаты в различных задачах, включая трассировку команд и SQL. В условиях, когда многие крупные языковые модели могут испытывать задержки, этот ИИ предлагает быстрое получение ответов.
На данный момент доступна версия Command A на платформе Hugging Face (нажмите здесь, чтобы посетить), с планами расширения на другие облачные сервисы.