Groq, startupen kendt for at designe sine egne AI-inferenschips, har rejst 350 millioner dollars i ny finansiering til en værdiansættelse på 3,5 milliarder dollars. Pengene vil fremskynde virksomhedens skift fra en ren chipfabrikant til en "neocloud"-udbyder, der lejer computerkraft ud til udviklere og virksomheder.
Fra chips til cloud
Groq opbyggede sit ry på brugerdefineret silicium kaldet LPU'er, eller language processing units, designet til at køre AI-arbejdsbelastninger hurtigere og til lavere omkostninger end generelle chips. Virksomheden sigtede mod at udfordre Nvidia på inferens, den computing, der er nødvendig for at køre trænede AI-modeller i realtid.
Men efter at have mistet nøglemedlemmer af sit chipteam ændrede Groq kurs. I stedet for kun at stole på sin egen hardware driver den nu datacentre, der kombinerer Nvidia GPU'er med sin egen teknologi. Den nye finansiering understøtter "dem, der søger brug af mellemstore og større klynger af Nvidia-accelereret computing til træning og inferens," sagde virksomheden.
En voksende fodaftryk
Groq driver allerede 13 datacentre i Nordamerika, Europa, Mellemøsten og Asien-Stillehavsområdet og betjener mere end 6 millioner udviklere, virksomheder og AI-native virksomheder. Virksomheden planlægger at skalere sin strømkapacitet fra 54 megawatt til mere end 200 megawatt inden 2027. I juni rejste den en runde på 650 millioner dollars for at kickstarte drejningen; Nvidia er blandt investorerne i den nye finansiering.
Neocloud-modellen har vakt stor interesse, da efterspørgslen efter AI-computing overstiger udbuddet. Startups i dette rum køber GPU'er i bulk og videresælger adgang per time, hvilket tilbyder et alternativ til de store offentlige cloud-udbydere.
Hvad pengene betyder
For Groq er rejsningen et væddemål på, at markedet ønsker valgmuligheder i, hvor AI-modeller kører. Virksomheden beholder sine inferenschips i blandingen, men den er ikke længere afhængig af dem alene. Den ekstra kapital giver den plads til at udvide kapaciteten, mens rivaler pumper milliarder ind i det samme kapløb. Efterhånden som AI-arbejdsbelastninger vokser, vokser også efterspørgslen efter hurtig, fleksibel computing, og Groq positionerer sig på begge sider af det marked.