Eigener Chip schlägt Nvidia in Tests
OpenAIs eigener Inferenz-Chip mit dem Codenamen Jalapeño hat Nvidias GB300 in unabhängigen Benchmark-Tests geschlagen, wie diese Woche veröffentlichte Ergebnisse zeigen. Der Chip führte bei Tokens pro Nutzer und Durchsatz pro Kilowatt, einem wichtigen Maß für Energieeffizienz. Die Tests wurden von unabhängigen Prüfern durchgeführt, nicht von OpenAI selbst.
Mit Broadcom gebaut
Der Jalapeño-Chip wurde mit Broadcom gebaut, das Ergebnis einer mehrjährigen Partnerschaft. OpenAI begann mit dem Design eigener Silizium-Chips, um die Abhängigkeit von Nvidia zu verringern, das den KI-Chipmarkt dominiert. Das Unternehmen kauft weiterhin Nvidia-Prozessoren in großen Mengen, aber eigene Chips geben ihm mehr Kontrolle über Kosten und Leistung.
Was die Ergebnisse bedeuten
Analysten sagten, die Benchmark-Ergebnisse seien ein Meilenstein für OpenAIs Hardware-Vorstoß. Wenn der Chip gut skaliert, könnte er die Ökonomie der KI-Berechnung verändern. Geringerer Energieverbrauch pro Token bedeutet niedrigere Betriebskosten für große Sprachmodelle. OpenAI betreibt einige der größten KI-Workloads der Welt, daher führen selbst kleine Effizienzgewinne zu großen Einsparungen.
Das Unternehmen hat sein Hardware-Team erweitert und kürzlich ein Chip-Designbüro eröffnet. Branchenbeobachter sagen, OpenAI könnte Jalapeño-Chips innerhalb des nächsten Jahres in seinen Rechenzentren einsetzen. Nvidia bleibt Marktführer mit großem Abstand, aber die Testergebnisse zeigen, dass Herausforderer aufholen. Auch andere Unternehmen wie Google und Amazon haben eigene KI-Chips gebaut. Das Rennen um bessere und billigere KI-Hardware ist eines der meistbeachteten in der Technologiebranche. Für OpenAI ist der Chip Teil einer umfassenderen Strategie, die eigene Computerzukunft zu kontrollieren – von den Modellen bis zum Silizium, auf dem sie laufen.