Anpassat chip toppar Nvidia i tester
OpenAIs anpassade inferenschip, med kodnamnet Jalapeño, slog Nvidias GB300 i tredjeparts benchmarktester, enligt resultat som publicerades denna vecka. Chippet ledde på tokens per användare och genomströmning per kilowatt, ett nyckelmått på energieffektivitet. Testerna utfördes av oberoende granskare, inte av OpenAI självt.
Byggt med Broadcom
Jalapeño-chippet byggdes med Broadcom, resultatet av ett flerårigt partnerskap. OpenAI började designa eget kisel för att minska beroendet av Nvidia, som dominerar AI-chipmarknaden. Företaget köper fortfarande Nvidia-processorer i stora volymer, men anpassade chips ger det mer kontroll över kostnad och prestanda.
Vad resultaten innebär
Analytiker sade att benchmarkresultaten är en milstolpe för OpenAIs hårdvarusatsning. Om chippet skalar väl kan det förändra ekonomin för AI-beräkningar. Lägre energianvändning per token innebär lägre driftskostnader för stora språkmodeller. OpenAI kör några av världens största AI-arbetsbelastningar, så även små effektivitetsvinster översätts till stora besparingar.
Företaget har utökat sitt hårdvaruteam och öppnade nyligen ett chipdesignkontor. Branschobservatörer säger att OpenAI kan distribuera Jalapeño-chips i sina datacenter inom det närmaste året. Nvidia förblir marknadsledare med bred marginal, men testresultaten visar att utmanare minskar gapet. Andra företag, inklusive Google och Amazon, har också byggt anpassade AI-chips. Loppet att designa bättre och billigare AI-hårdvara är nu en av de mest bevakade tävlingarna inom teknik. För OpenAI är chippet en del av en bredare strategi för att kontrollera sin egen datorframtid, från modeller till kislet de kör på.