Une société de puces change de cap
Groq, la société de puces IA connue pour ses processeurs d'inférence rapides, a levé 350 millions de dollars pour passer de la vente de puces à l'exploitation d'un néocloud. Un néocloud est un service cloud qui loue de la puissance de calcul IA aux startups et aux entreprises. Groq exploitera désormais ses propres centres de données et louera du temps sur son matériel.
Les puces de l'entreprise sont conçues pour exécuter de grands modèles de langage à très haute vitesse tout en utilisant moins d'énergie que de nombreux concurrents. Des clients tels que les développeurs d'assistants IA ont utilisé le matériel Groq pour réduire les temps de réponse de quelques secondes à quelques millisecondes.
Pourquoi ce pivot
Les fabricants de matériel constatent que la vente de puces n'est qu'une partie de la valeur. L'argent le plus important se trouve dans les services cloud qui font fonctionner les puces. La décision de Groq suit des démarches similaires d'autres entreprises de matériel IA qui proposent désormais des services d'inférence gérés.
Le marché du néocloud croît rapidement car la demande de calcul IA dépasse encore l'offre. Les grands fournisseurs de cloud ont de longues listes d'attente pour les processeurs graphiques, et les startups ont besoin d'alternatives. Groq affirme que son architecture peut répondre à cette demande à un coût par jeton inférieur.
Ce que l'argent financera
Groq indique que les nouveaux capitaux étendront son empreinte de centres de données en Amérique du Nord et en Europe. L'entreprise prévoit également d'embaucher plus d'ingénieurs et de développer son équipe commerciale. Ce tour de financement intervient à un moment où les investisseurs injectent de l'argent dans les infrastructures IA malgré les inquiétudes concernant une bulle.
Les analystes affirment que ce pivot est un pari que les charges de travail IA continueront de croître pendant des années. Si ce pari s'avère payant, Groq pourrait devenir un fournisseur majeur de calcul IA rapide et bon marché. Sinon, l'entreprise devra s'appuyer sur son activité de puces pour porter le fardeau.