Niestandardowy chip pokonuje Nvidię w testach
Niestandardowy chip wnioskujący OpenAI, nazwany kodem Jalapeño, pokonał Nvidię GB300 w testach porównawczych przeprowadzonych przez niezależne podmioty, według wyników opublikowanych w tym tygodniu. Chip prowadził pod względem tokenów na użytkownika i przepustowości na kilowat, co jest kluczową miarą efektywności energetycznej. Testy zostały przeprowadzone przez niezależnych recenzentów, a nie przez samo OpenAI.
Zbudowany z Broadcomem
Chip Jalapeño został zbudowany z Broadcomem, jako efekt wieloletniego partnerstwa. OpenAI zaczęło projektować własne krzemowe układy, aby zmniejszyć zależność od Nvidii, która dominuje na rynku chipów AI. Firma nadal kupuje procesory Nvidii w dużych ilościach, ale niestandardowe chipy dają jej większą kontrolę nad kosztami i wydajnością.
Co oznaczają wyniki
Analitycy stwierdzili, że wyniki testów są kamieniem milowym dla działań OpenAI w zakresie sprzętu. Jeśli chip będzie dobrze się skalował, może zmienić ekonomikę obliczeń AI. Niższe zużycie energii na token oznacza niższe koszty operacyjne dla dużych modeli językowych. OpenAI uruchamia jedne z największych obciążeń AI na świecie, więc nawet niewielkie zyski wydajności przekładają się na duże oszczędności.
Firma rozszerza swój zespół sprzętowy i niedawno otworzyła biuro projektowe chipów. Obserwatorzy branży twierdzą, że OpenAI może wdrożyć chipy Jalapeño w swoich centrach danych w ciągu najbliższego roku. Nvidia pozostaje liderem rynku z dużą przewagą, ale wyniki testów pokazują, że konkurenci zmniejszają dystans. Inne firmy, w tym Google i Amazon, również zbudowały niestandardowe chipy AI. Wyścig o zaprojektowanie lepszych i tańszych układów AI jest obecnie jednym z najbardziej obserwowanych w technologii. Dla OpenAI chip jest częścią szerszej strategii kontroli własnej przyszłości obliczeniowej, od modeli po krzem, na którym działają.