Groq, американский стартап, разрабатывающий чипы для запуска генеративных моделей искусственного интеллекта быстрее, чем традиционные процессоры, привлек $640 млн. в новом раунде финансирования под руководством Blackrock.
Neuberger Berman, Type One Ventures, Cisco, KDDI и Samsung Catalyst Fund также приняли участие в финансировании, сообщает ресурс TechCrunch. В результате общий объем привлеченных средств Groq превысил миллиард долларов, а стоимость компании составила $2,8 млрд.
Специалист по искусственному интеллекту Янн ЛеКун присоединится к Groq в качестве технического консультанта, а Стюарт Панн, бывший топ-менеджер Intel и бывший директор по информационным технологиям HP, присоединится к стартапу в качестве главного операционного директора.
Компания Groq, запущенная в 2016 году, разрабатывает так называемый механизм вывода LPU (Language Processing Unit). Компания утверждает, что ее чипы LPU могут запускать существующие модели генеративного искусственного интеллекта, сравнимые по архитектуре с ChatGPT и GPT-4 OpenAI, с десятикратной скоростью и в десять раз меньшим энергопотреблением.
Генеральный директор Groq Джонатан Росс известен тем, что помог изобрести Tensor Processing Unit (TPU), специальный чип-ускоритель искусственного интеллекта Google, используемый для обучения и запуска моделей. Росс объединился с Дугласом Уайтманом, предпринимателем и бывшим инженером лаборатории X-Moonshot материнской компании Google Alphabet, чтобы стать соучредителем Groq почти десять лет назад.
Стартап также предлагает платформу для разработчиков на базе LPU под названием «GroqCloud», которая включает в себя «открытые» модели, такие как семейство Llama 3.1, Gemma от Google, Whisper от OpenAI и Mixtral от Mistral, а также API. По состоянию на июль в GroqCloud насчитывалось более 356 000 разработчиков. Часть доходов от раунда финансирования теперь будет использована для расширения возможностей платформы и добавления новых моделей и функций.
Несмотря на успехи, у Groq по-прежнему много сильных конкурентов, особенно выделяется Nvidia. По оценкам, Nvidia контролирует не менее 70% рынка ИИ-чипов, которые используются для обучения и развертывания генеративных моделей ИИ. Nvidia взяла на себя обязательство выпускать новую архитектуру чипов искусственного интеллекта каждый год, а не раз в два года. Помимо Nvidia, Groq также конкурирует с Amazon, Google и Microsoft, каждая из которых предлагает — или скоро предложит — специализированные чипы для рабочих нагрузок искусственного интеллекта в облаке.
Groq инвестирует значительные средства в приобретения перспективных стартапов. В марте компания приобрела Definitive Intelligence, компанию из Пало-Альто, которая предоставляет ряд корпоративных решений в области искусственного интеллекта, чтобы сформировать новое бизнес-подразделение под названием Groq Systems. В обязанности этого подразделения входит поддержка организаций, в том числе правительственных учреждений США и суверенных государств, которые хотят оснастить существующие центры обработки данных масштабируемыми чипами или построить новые центры обработки данных с их процессорами.Недавно Groq заключила партнерские отношения с Carahsoft, государственной IT-компанией, чтобы продавать свои решения клиентам из государственного сектора через партнеров-дистрибьюторов Carahsoft, и у стартапа есть письмо о намерениях установить десятки тысяч своих LPU в норвежском центре обработки данных Wind & Power. Groq также работает с консалтинговой фирмой Aramco Digital из Саудовской Аравии над установкой чипов LPU в будущих центрах обработки данных на Ближнем Востоке.
Одновременно с налаживанием отношений с клиентами молодая компания работает над следующим поколением своего чипа. В августе прошлого года стартап объявил, что подпишет соглашение с компанией Global Foundries о производстве 4-нм LPU, которые, как ожидается, обеспечат прирост производительности и эффективности по сравнению с 13-нм чипами Groq первого поколения. По собственным данным, к концу первого квартала 2025 года компания планирует использовать более 108 тысяч чипов LPU.
