Özel çip testlerde Nvidia'yı geçti
OpenAI'nin kod adı Jalapeño olan özel çıkarım çipi, bu hafta yayınlanan sonuçlara göre üçüncü taraf kıyaslama testlerinde Nvidia'nın GB300'ünü geride bıraktı. Çip, enerji verimliliğinin önemli bir ölçüsü olan kullanıcı başına token ve kilovat başına verimde öne çıktı. Testler OpenAI tarafından değil, bağımsız incelemeciler tarafından yapıldı.
Broadcom ile üretildi
Jalapeño çipi, çok yıllık bir ortaklığın sonucu olarak Broadcom ile üretildi. OpenAI, yapay zeka çip piyasasına hakim olan Nvidia'ya olan bağımlılığını azaltmak için kendi silikonunu tasarlamaya başladı. Şirket hâlâ büyük miktarlarda Nvidia işlemcisi satın alıyor, ancak özel çipler maliyet ve performans üzerinde daha fazla kontrol sağlıyor.
Sonuçlar ne anlama geliyor?
Analistler, kıyaslama sonuçlarının OpenAI'nin donanım hamlesi için bir dönüm noktası olduğunu söyledi. Çip iyi ölçeklenirse, yapay zeka bilişiminin ekonomisini değiştirebilir. Token başına daha düşük enerji kullanımı, büyük dil modelleri için daha düşük işletme maliyetleri anlamına gelir. OpenAI dünyanın en büyük yapay zeka iş yüklerinden bazılarını çalıştırıyor, bu nedenle küçük verimlilik kazanımları bile büyük tasarruflara dönüşüyor.
Şirket donanım ekibini genişletiyor ve yakın zamanda bir çip tasarım ofisi açtı. Sektör gözlemcileri, OpenAI'nin önümüzdeki yıl içinde Jalapeño çiplerini veri merkezlerinde kullanabileceğini söylüyor. Nvidia açık ara piyasa lideri olmaya devam ediyor, ancak test sonuçları rakiplerin arayı kapattığını gösteriyor. Google ve Amazon dahil diğer şirketler de özel yapay zeka çipleri üretti. Daha iyi ve daha ucuz yapay zeka donanımı tasarlama yarışı artık teknolojide en çok izlenen yarışlardan biri. OpenAI için çip, modellerden üzerinde çalıştıkları silikona kadar kendi bilişim geleceğini kontrol etme stratejisinin bir parçası.