Ett chipföretag ändrar kurs
Groq, AI-chipföretaget känt för sina snabba inferensprocessorer, har samlat in 350 miljoner dollar för att svänga från att sälja chips till att driva ett neomoln. Ett neomoln är en molntjänst som hyr ut AI-beräkningskraft till startups och företag. Groq kommer nu att driva egna datacenter och hyra ut tid på sin hårdvara.
Företagets chips är byggda för att köra stora språkmodeller i mycket hög hastighet samtidigt som de använder mindre ström än många konkurrenter. Kunder som utvecklare av AI-assistenter har använt Groq-hårdvara för att minska svarstiderna från sekunder till millisekunder.
Varför svängen
Hårdvarutillverkare upptäcker att det bara är en del av värdet att sälja chips. De större pengarna finns i molntjänsterna som kör chipsen. Groqs drag följer liknande steg från andra AI-hårdvaruföretag som nu erbjuder hanterade inferenstjänster.
Neomolnmarknaden växer snabbt eftersom efterfrågan på AI-beräkning fortfarande överstiger utbudet. Stora molnleverantörer har långa väntelistor för grafikprocessorer, och startups behöver alternativ. Groq säger att dess arkitektur kan möta den efterfrågan till en lägre kostnad per token.
Vad pengarna ska finansiera
Groq säger att det nya kapitalet kommer att expandera företagets datacenterfotavtryck i Nordamerika och Europa. Företaget planerar också att anställa fler ingenjörer och växa sin säljorganisation. Finansieringsrundan kommer när investerare häller pengar i AI-infrastruktur trots oro för en bubbla.
Analytiker säger att svängen är en satsning på att AI-arbetsbelastningar kommer att fortsätta växa i åratal. Om satsningen lönar sig kan Groq bli en stor leverantör av snabb, billig AI-beräkning. Om inte, måste företaget förlita sig på sin chipverksamhet för att bära bördan.