Un'azienda di chip cambia rotta
Groq, l'azienda di chip AI nota per i suoi processori di inferenza veloci, ha raccolto 350 milioni di dollari per passare dalla vendita di chip alla gestione di un neocloud. Un neocloud è un servizio cloud che affitta potenza di calcolo AI a startup e imprese. Groq ora gestirà i propri data center e affitterà tempo sulla sua hardware.
I chip dell'azienda sono progettati per eseguire grandi modelli linguistici a velocità molto elevate usando meno energia di molti concorrenti. Clienti come sviluppatori di assistenti AI hanno usato l'hardware Groq per ridurre i tempi di risposta da secondi a millisecondi.
Perché il cambio
I produttori di hardware stanno scoprendo che vendere chip è solo parte del valore. I soldi veri sono nei servizi cloud che eseguono i chip. La mossa di Groq segue passi simili di altre aziende di hardware AI che ora offrono servizi di inferenza gestiti.
Il mercato neocloud cresce rapidamente perché la domanda di potenza di calcolo AI supera ancora l'offerta. I grandi provider cloud hanno lunghe liste d'attesa per le GPU e le startup hanno bisogno di alternative. Groq afferma che la sua architettura può soddisfare quella domanda a un costo inferiore per token.
Cosa finanzieranno i soldi
Groq afferma che il nuovo capitale espanderà la sua impronta di data center in Nord America ed Europa. L'azienda prevede anche di assumere più ingegneri e far crescere il team di vendita. Il round di finanziamento arriva in un momento in cui gli investitori stanno riversando denaro nelle infrastrutture AI nonostante le preoccupazioni per una bolla.
Gli analisti affermano che il cambio è una scommessa che i carichi di lavoro AI continueranno a crescere per anni. Se la scommessa paga, Groq potrebbe diventare un fornitore importante di calcolo AI veloce ed economico. In caso contrario, l'azienda dovrà fare affidamento sul suo business dei chip.