En chipvirksomhed ændrer kurs
Groq, AI-chipvirksomheden kendt for sine hurtige inferensprocessorer, har rejst 350 millioner dollars for at skifte fra at sælge chips til at drive en neocloud. En neocloud er en cloud-tjeneste, der udlejer AI-computerkraft til startups og virksomheder. Groq vil nu drive sine egne datacentre og leje tid ud på sin hardware.
Virksomhedens chips er bygget til at køre store sprogmodeller ved meget høj hastighed, mens de bruger mindre strøm end mange konkurrenter. Kunder som udviklere af AI-assistenter har brugt Groq-hardware til at reducere svartider fra sekunder til millisekunder.
Hvorfor skiftet
Hardwareproducenter opdager, at det kun er en del af værdien at sælge chips. De større penge ligger i cloud-tjenesterne, der kører chipsene. Groqs træk følger lignende skridt fra andre AI-hardwarefirmaer, der nu tilbyder administrerede inferenstjenester.
Neocloud-markedet vokser hurtigt, fordi efterspørgslen efter AI-computerkraft stadig overstiger udbuddet. Store cloud-udbydere har lange ventelister til grafikprocessorer, og startups har brug for alternativer. Groq siger, at dens arkitektur kan imødekomme den efterspørgsel til en lavere pris pr. token.
Hvad pengene skal finansiere
Groq siger, at den nye kapital vil udvide virksomhedens datacenter-fodaftryk i Nordamerika og Europa. Virksomheden planlægger også at ansætte flere ingeniører og udvide sit salgsteam. Finansieringsrunden kommer på et tidspunkt, hvor investorer hælder penge i AI-infrastruktur på trods af bekymringer om en boble.
Analytikere siger, at skiftet er et væddemål på, at AI-arbejdsbyrder vil fortsætte med at vokse i årevis. Hvis det væddemål betaler sig, kan Groq blive en stor leverandør af hurtig, billig AI-computerkraft. Hvis ikke, bliver virksomheden nødt til at lade sin chipforretning bære byrden.