Eigen chip verslaat Nvidia in tests
OpenAI's eigen inferentiechip, met codenaam Jalapeño, versloeg Nvidia's GB300 in benchmarktests van derden, volgens deze week gepubliceerde resultaten. De chip leidde op tokens per gebruiker en doorvoer per kilowatt, een belangrijke maatstaf voor energie-efficiëntie. De tests zijn uitgevoerd door onafhankelijke reviewers, niet door OpenAI zelf.
Gebouwd met Broadcom
De Jalapeño-chip is gebouwd met Broadcom, het resultaat van een meerjarig partnerschap. OpenAI begon met het ontwerpen van eigen silicium om zijn afhankelijkheid van Nvidia, dat de AI-chipmarkt domineert, te verminderen. Het bedrijf koopt nog steeds grote volumes Nvidia-processoren, maar eigen chips geven het meer controle over kosten en prestaties.
Wat de resultaten betekenen
Analisten zeiden dat de benchmarkresultaten een mijlpaal zijn voor de hardware-inspanningen van OpenAI. Als de chip goed schaalt, zou dit de economie van AI-computing kunnen veranderen. Lager energieverbruik per token betekent lagere operationele kosten voor grote taalmodellen. OpenAI draait enkele van de grootste AI-workloads ter wereld, dus zelfs kleine efficiëntiewinsten vertalen zich in grote besparingen.
Het bedrijf heeft zijn hardwareteam uitgebreid en onlangs een kantoor voor chipontwerp geopend. Industrie-waarnemers zeggen dat OpenAI Jalapeño-chips binnen het komende jaar in zijn datacenters zou kunnen inzetten. Nvidia blijft de marktleider met een ruime marge, maar de testresultaten tonen aan dat uitdagers de kloof verkleinen. Andere bedrijven, waaronder Google en Amazon, hebben ook eigen AI-chips gebouwd. De race om betere en goedkopere AI-hardware te ontwerpen is nu een van de meest gevolgde wedstrijden in de technologie. Voor OpenAI maakt de chip deel uit van een bredere strategie om zijn eigen computer toekomst te beheersen, van modellen tot het silicium waarop ze draaien.