Groq, la startup nota per la progettazione dei propri chip di inferenza AI, ha raccolto 350 milioni di dollari in nuovi finanziamenti con una valutazione di 3,5 miliardi di dollari. Il denaro accelererà il passaggio dell'azienda da puro produttore di chip a fornitore "neocloud" che affitta potenza di calcolo a sviluppatori e aziende.
Dai chip al cloud
Groq ha costruito la sua reputazione su silicio personalizzato chiamato LPU, o unità di elaborazione linguistica, progettate per eseguire carichi di lavoro AI più velocemente e a costi inferiori rispetto ai chip generici. L'azienda mirava a sfidare Nvidia sull'inferenza, il calcolo necessario per eseguire modelli AI addestrati in tempo reale.
Ma dopo aver perso membri chiave del suo team di chip, Groq ha cambiato rotta. Invece di fare affidamento solo sul proprio hardware, ora gestisce data center che combinano GPU Nvidia con la propria tecnologia. I nuovi finanziamenti supportano "coloro che cercano l'utilizzo di cluster di medie e grandi dimensioni di calcolo accelerato Nvidia per training e inferenza", ha affermato la società.
Un'impronta in crescita
Groq gestisce già 13 data center in Nord America, Europa, Medio Oriente e Asia Pacifico, servendo oltre 6 milioni di sviluppatori, aziende e società native AI. L'azienda prevede di aumentare la sua capacità di potenza da 54 megawatt a oltre 200 megawatt entro il 2027. A giugno, ha raccolto un round da 650 milioni di dollari per avviare la svolta; Nvidia è tra gli investitori nei nuovi finanziamenti.
Il modello neocloud ha suscitato grande interesse poiché la domanda di calcolo AI supera l'offerta. Le startup in questo spazio acquistano GPU all'ingrosso e rivendono l'accesso a ore, offrendo un'alternativa ai grandi cloud pubblici.
Cosa significa il denaro
Per Groq, la raccolta è una scommessa che il mercato voglia scelta su dove vengono eseguiti i modelli AI. L'azienda mantiene i suoi chip di inferenza nel mix, ma non dipende più solo da essi. Il capitale extra le dà spazio per espandere la capacità mentre i rivali investono miliardi nella stessa corsa. Con la crescita dei carichi di lavoro AI, cresce anche la domanda di calcolo veloce e flessibile, e Groq si sta posizionando su entrambi i lati di quel mercato.