groq

всего материалов по тегу - 8

Стартапы вроде Cerebras, Groq и d-Matrix, а также традиционные производители процессоров — AMD и Intel — начали разработку специализированных чипов для инференса.

Финансирование значительно превышает ранее запланированное. Groq обещает чрезвычайно быстрые модели искусственного интеллекта.

Суперчип Groq обрабатывает более 1200 токенов в секунду (T/s). Это больше, чем у Llama, Gemma от Google и Mixtral 8x7B.

Пока Nvidia продолжает доминировать на рынке графических процессоров, востребованных для работы с современными моделями искусственного интеллекта, целая группа стартапов бросает вызов ее господству. Они разрабатывают специализированные ИИ-чипы, обещая более высокую производительность и эффективность...

Компания Groq представила специализированный языковой процессор значительно опережающий ускорители искусственного интеллекта Nvidia

Чип обслуживает различные модели, такие как Mixtral 8x7B, Llama 2 70B и Llama 2 7B, предоставляя высокую производительность и конкурируя с облачными провайдерами на базе GPU

Groq является сотым стартапом, пытающимся сделать карту ускорения AI и первым, у которого получился продукт достигающий производительности в 1 квадриллион операций в секунду.

Компания Groq выпустила новый потоковый процессор производительностью 250 триллионов операций с плавающей запятой в секунду.