Accueil Big Data Groq lance le terrain de jeu pour développeurs GroqCloud avec Definitive Intelligence

Groq lance le terrain de jeu pour développeurs GroqCloud avec Definitive Intelligence

0
Groq lance le terrain de jeu pour développeurs GroqCloud avec Definitive Intelligence


Groq, la startup basée à Mountain View, en Californie, qui a attiré l’attention de la communauté de l’IA avec ses propres micropuces conçues spécifiquement pour exécuter rapidement et efficacement des grands modèles de langage (LLM), fait encore plus de vagues cette semaine.

Aujourd’hui, il a annoncé l’acquisition d’une autre startupDefinitive Intelligence, et un nouveau produit construit sur leur collaboration antérieure et continue : GroqCloud, ce que les deux sociétés associées décrivent désormais comme un « terrain de jeu pour développeurs avec une documentation entièrement intégrée, des exemples de code et un accès en libre-service ».

La grosse vente : l’accès LPU pour exécuter des inférences d’IA

Mais la grosse vente de GroqCloud est probablement ce à quoi il permet aux utilisateurs développeurs d’IA d’accéder : le moteur d’inférence Groq Language Processing Unit (LPU).

Les LPU de Groq ont récemment bénéficié de l’attention virale des développeurs d’IA pour fournir des résultats quasi instantanés, propulsant Groq sous les projecteurs alors même que Les bénéfices de son rival Nvidia ont atteint de nouveaux sommets basé sur la forte demande pour les unités de traitement graphique (GPU) de ces derniers.

Événement VB

La tournée AI Impact – New York

Nous serons à New York le 29 février en partenariat avec Microsoft pour discuter de la manière d’équilibrer les risques et les récompenses des applications d’IA. Demandez une invitation à l’événement exclusif ci-dessous.

Demandez une invitation

Mais les GPU, comme leur nom l’indique, ont été conçus pour restituer des graphiques informatiques – à l’origine pour les jeux et les logiciels multimédia, mais au cours des dernières décennies, pour les applications d’IA. Pourtant, jusqu’à récemment, ils ne s’étaient pas consacrés à cette tâche. Comme VentureBeat a déjà signaléJonathan Ross, PDG et fondateur de Groq – auparavant créateur de l’unité de traitement tensoriel (TPU) de Google – estime que les LPU spécialement conçues par Groq finiront bientôt par dominer le marché.

« Nous serons probablement l’infrastructure que la plupart des startups utilisent d’ici la fin de l’année », a-t-il déclaré. dit à ma collègue Sharon Goldman la semaine dernièrecitant les avantages significatifs en termes de coûts et les performances supérieures de leurs LPU par rapport aux GPU de Nvidia.

Lancement du logiciel avec une forte adoption initiale

GroqCloud a en fait été lancé le 19 février et a déjà vu des milliers de développeurs l’utiliser pour exploiter les LPU pour leurs applications et inférences d’apprentissage automatique (exécutant des modèles d’IA pour les utilisateurs plutôt que de les former), mais il est désormais ouvert au public.

« Chez Groq, nous nous engageons à créer une économie de l’IA accessible et abordable pour toute personne ayant une idée brillante », a fait remarquer Ross dans un communiqué. communiqué de presse.

Renforcer les capacités de Groq pour affronter Nvidia

Sunny Madra, co-fondateur et PDG de Definitive Intelligence, a exprimé son enthousiasme à l’idée de s’associer à Groq.

« Chez Groq, nous offrons aux développeurs la vitesse, la faible latence et l’efficacité dont ils ont besoin pour tenir la promesse de l’IA générative », a déclaré Madra dans le même communiqué, soulignant les capacités de transformation de la technologie de Groq.

L’acquisition a également facilité la création d’une unité commerciale Groq Systems, axée sur l’innovation et répondant aux besoins du secteur public et des clients nécessitant des solutions informatiques avancées d’IA. Cette division stratégique vise à accélérer l’innovation de Groq, renforçant ainsi son engagement à devenir leader de l’industrie des puces IA.

En mettant l’accent sur l’amélioration de l’accès des développeurs aux capacités d’IA de pointe et sur la remise en question du statu quo, Groq ne se contente pas de participer à la course aux puces d’IA : il conçoit un avenir dans lequel la technologie d’IA sera plus accessible, plus efficace et plus transformatrice.

La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur la technologie et les transactions d’entreprise transformatrices. Découvrez nos Briefings.

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici