Een chipbedrijf verandert van koers
Groq, het AI-chipbedrijf dat bekend staat om zijn snelle inferentieprocessors, heeft $350 miljoen opgehaald om te draaien van het verkopen van chips naar het runnen van een neocloud. Een neocloud is een clouddienst die AI-rekenkracht verhuurt aan startups en bedrijven. Groq zal nu eigen datacenters exploiteren en tijd op zijn hardware verhuren.
De chips van het bedrijf zijn gebouwd om grote taalmodellen op zeer hoge snelheid te draaien terwijl ze minder stroom verbruiken dan veel concurrenten. Klanten zoals ontwikkelaars van AI-assistenten hebben Groq-hardware gebruikt om reactietijden te verkorten van seconden naar milliseconden.
Waarom de ommekeer
Hardwaremakers ontdekken dat het verkopen van chips slechts een deel van de waarde is. Het grotere geld zit in de clouddiensten die de chips draaien. Groq's stap volgt op soortgelijke zetten van andere AI-hardwarebedrijven die nu beheerde inferentiediensten aanbieden.
De neocloudmarkt groeit snel omdat de vraag naar AI-rekenkracht nog steeds het aanbod overtreft. Grote cloudproviders hebben lange wachtlijsten voor grafische processors en startups hebben alternatieven nodig. Groq zegt dat zijn architectuur die vraag kan bedienen tegen lagere kosten per token.
Waar het geld naartoe gaat
Groq zegt dat het nieuwe kapitaal de datacenter-voetafdruk in Noord-Amerika en Europa zal uitbreiden. Het bedrijf is ook van plan meer ingenieurs aan te nemen en het verkoopteam te laten groeien. De financieringsronde komt op een moment dat investeerders geld in AI-infrastructuur pompen ondanks zorgen over een bubbel.
Analisten zeggen dat de ommekeer een gok is dat AI-workloads jarenlang zullen blijven groeien. Als die gok slaagt, zou Groq een belangrijke leverancier van snelle, goedkope AI-rekenkracht kunnen worden. Zo niet, dan zal het bedrijf zijn chipactiviteiten nodig hebben om de last te dragen.