Groq Inc., стартап по разработке чипов и программного обеспечения для искусственного интеллекта (ИИ), основанный в 2016 году Джонатаном Россом, привлек $640 млн в ходе последнего раунда финансирования. Раунд возглавили фонды BlackRock Inc. при поддержке инвестиционных подразделений Cisco Systems Inc. и Samsung Electronics Co. Теперь компания оценивается в $2,8 млрд.

Росс, ранее работавший над чипами TPU в Google, разрабатывает в Groq специализированное аппаратное обеспечение для приложений ИИ. В частности, компания разработала так называемые LPU (Language Processing Units), оптимизированные для работы с языковыми моделями. LPU могут запускать генеративные модели ИИ в 10 раз быстрее, чем обычные процессоры, потребляя при этом десятую часть энергии. Такая скорость делает оборудование привлекательным для приложений реального времени.

По мнению Groq, LPU более энергоэффективны, чем обычные графические чипы (GPU), поскольку позволяют снизить накладные расходы на управление несколькими потоками и избежать неполного использования ядер. Дизайн чипа Groq также позволяет подключать несколько специализированных ядер без традиционных узких мест, которые возникают в кластерах GPU.

Таким образом, это оборудование может стать альтернативой востребованным в настоящее время чипам от Nvidia, но только для выводов, то есть выполнения моделей ИИ. Для обучения моделей компаниям по-прежнему необходимо обычное оборудование от Nvidia или аналогичные чипы. 

Компания намерена развернуть более 108 000 LPU к началу 2025 года и сотрудничает с Samsung для производства своих 4-нм чипов нового поколения.