„OpenAI“ pristato „Jalapeño“ – savo dirbtinio intelekto lustą, kuris efektyvumu ir greičiu lenkia „Nvidia“

  • „Broadcom“ sukurtas „Jalapeño“ procesorius išvadų testuose pasiekia nuo 1,5 iki 1,9 karto didesnį našumą vienam vatui ir iki 3,6 karto mažesnį delsos laiką nei „Nvidia GB200“ ir „GB300“.
  • Lustas skirtas išskirtinai iš anksto apmokytiems modeliams paleisti, o ne juos apmokyti, ir sunaudoja apie 700 vatų, o tai galėtų sumažinti duomenų centrų eksploatavimo išlaidas.
  • „OpenAI“ planuoja iki 2026 m. pabaigos įdiegti pirmąsias sistemas su jalapeno pipirais ir išplėsti jų naudojimą 2027 m., jau dirbdama su antros ir trečios kartos sistemomis.
  • Bendrovė išlaiko aljansą su „Nvidia“ modelių mokymo srityje, tačiau siekia diversifikuoti savo infrastruktūrą ir sumažinti priklausomybę nuo vieno tiekėjo.

„OpenAI“ jalapeno traškučiai

„OpenAI“ žengė reikšmingą žingsnį savo technologinės nepriklausomybės strategijoje, pristatydama pirmuosius savo sukurto dirbtinio intelekto procesoriaus „Jalapeño“ rezultatus. Šis į išvadas orientuotas lustas, sukurtas bendradarbiaujant su „Broadcom“, pranoko „Nvidia GB200“ ir „GB300“ greitintuvus dviem pagrindiniais rodikliais: apdorojimo galia vatui ir atsako greičiu. Duomenys, paskelbti „Hot Chips“ konferencijoje ir apie kuriuos pranešė tokios žiniasklaidos priemonės kaip „Bloomberg“ ir „The Verge“, suteikia „OpenAI“ precedento neturinčią poziciją dirbtinio intelekto aparatinės įrangos lenktynėse.

Tai nemenkas pranešimas. Iki šiol „OpenAI“ beveik visiškai rėmėsi „Nvidia“ procesoriais, kad galėtų vykdyti savo modelius tiek mokymo, tiek išvadų etapuose, t. y. kai sistema reaguoja į naudotojų užklausas. Su „Jalapeño“ pipirais bendrovė siekia sumažinti savo veiklos sąnaudas ir kontroliuoti savo infrastruktūrą, tačiau visiškai neatsisakydama „Nvidia“. Pasak Richardo Ho, „OpenAI“ aparatinės įrangos vadovo, lustas siūlo tai, ką jis vadina „geriausiu iš abiejų pasaulių“: didelį pajėgumą aptarnauti daugelį klientų vienu metu ir mažą delsą interaktyvioms programoms.

OpenAI ir Broadcom
Susijęs straipsnis:
„OpenAI“ ir „Broadcom“ bendradarbiauja kurdami individualius dirbtinio intelekto lustus

Kas yra jalapeno ir kaip jis veikia?

„Jalapeño“ yra konkrečiai programai skirta integrinė grandinė (ASIC), sukurta nuo nulio vienai užduočiai atlikti: iš anksto apmokytų kalbos modelių vykdymui. Skirtingai nuo „Nvidia“ GPU, kurie yra bendrosios paskirties procesoriai, šis lustas yra optimizuotas išvados etapui, kai sistema apdoroja užklausą ir sugeneruoja atsakymą. Jis nėra skirtas mokymo modeliams – užduočiai, kuri lieka „Nvidia“ GPU sritimi ir kurią „OpenAI“ ir toliau naudos šiam tikslui.

Lusto dizainas orientuotas į kliūčių, kurios paprastai kyla darant išvadas, pvz., perduodant duomenis tarp atminties ir skaičiavimo įrenginių, mažinimą. Pasak bendrovės, „Jalapeño“ integruoja didelę skaičiavimo sekciją kartu su šešiais didelio pralaidumo atminties (HBM) blokais, todėl duomenys gali būti saugomi lokaliai ir išvengti nereikalingo perdavimo. Be to, lustas gali aktyvuoti tinkamą išteklių derinį kiekvienam apdorojimo etapui, taip pagerindamas tiek dirbtinio intelekto našumą, tiek energijos vartojimo efektyvumą.

„Anthropic“ ir „Samsung“ pritaikytas dirbtinio intelekto lustas
Susijęs straipsnis:
„Anthropic“ ir „Samsung“ derasi dėl savo dirbtinio intelekto lusto sukūrimo, kad mestų iššūkį „Nvidia“ dominavimui.

Lyginamojo testo rezultatai, palyginti su „Nvidia“

Testai buvo atlikti naudojant viešąją „SemiAnalysis“ platformą „InferenceX“, kuri matuoja dirbtinio intelekto sistemų našumą realiomis sąlygomis. „OpenAI“ palygino jalapeno pipirus su geriausiais „Nvidia GB200“ ir „GB300“ superlustų rezultatais, kurie buvo prieinami testavimo metu. Rezultatai parodė, kad jalapeno pipirai pasiekia 1,5–1,9 karto daugiau dirbtinio intelekto darbo vienam vatui, o delsa nuo pradžios iki pabaigos yra 1,7–3,6 karto mažesnė. Testavimo rinkinyje naudoti modeliai buvo „GPT-OSS 120B“, „DeepSeek R1“ ir „Kimi K3“ – nuo ​​atviro svorio iki pažangiausių modelių.

Šie skaičiai ypač aktualūs, nes energijos vartojimo efektyvumas tapo vienu iš pagrindinių pramonės iššūkių. Dirbtinio intelekto duomenų centrai sunaudoja milžiniškus elektros energijos kiekius, o sumažinus suvartojimą vienam darbo vienetui galima gerokai sutaupyti. Pasak Richardo Ho, „Jalapeño“ veikia su maždaug 700 vatų galia – tai gana mažas rodiklis išvadų greitintuvui, ir, anot „Broadcom“ generalinio direktoriaus Hocko Tano, eksploatavimo sąnaudas, palyginti su įprastais GPU, būtų galima sumažinti apie 50 %.

dirbtinio intelekto lustų trūkumas
Susijęs straipsnis:
Ideali silicio audra: kodėl dirbtinio intelekto lustų trūkumas išlieka

Bendradarbiavimas su „Broadcom“ ir veiksmų planas

„Jalapeño“ sukūrimas yra 2025 m. spalį paskelbtos strateginės „OpenAI“ ir „Broadcom“ partnerystės rezultatas. „Broadcom“ prisideda savo patirtimi silicio projektavimo, tinklų kūrimo ir gamybos srityse, o „OpenAI“ panaudojo savo dirbtinio intelekto modelius, kad paspartintų projektavimo procesą. Lustas nuo pradinio projektavimo iki išpakavimo (paskutinio etapo prieš gamybą) buvo perkeltas vos per devynis mėnesius – rekordinį laiką pažangiam puslaidininkiui.

„OpenAI“ jau dirba su antros kartos procesoriumi ir kuria trečią. Bendrovė planuoja iki 2026 m. pabaigos labai mažais kiekiais įdiegti pirmąsias sistemas su jalapeno pipirais ir 2027 m. gerokai išplėsti jų naudojimą. Pasak „Bloomberg“, diegimas vyks „Microsoft“ ir kitų partnerių duomenų centruose, o tikimasi, kad iki 2029 m. skaičiavimo galia pasieks 10 gigavatų. Tačiau pateikti rezultatai yra preliminarūs ir dar nepatvirtinti didelio masto gamybos aplinkoje.

Poveikis rinkai ir vartotojams

Jalapeno atsiradimas nereiškia, kad „OpenAI“ atsisako „Nvidia“. Bendrovė tvirtino, kad „Nvidia“ išlieka pagrindine partnere, ypač modelių mokymo srityje, ir kad skaičiavimo galios poreikis yra toks didelis, kad jai reikia kelių tiekėjų. Tiesą sakant, „OpenAI“ taip pat bendradarbiauja su AMD ir „Cerebras“, o jos strategija apima heterogeninės infrastruktūros kūrimą, kur kiekvienas darbo krūvis priskiriamas efektyviausiai techninei įrangai.

Ši naujiena turi tiesioginių pasekmių vartotojams ir kūrėjams. Jei „Jalapeño“ ištesės savo pažadus, per ateinančius 18 mėnesių vieno išvados žetono kaina gali sumažėti 30–50 %, o tai leis startuoliams ir įmonėms pasiūlyti pigesnes dirbtinio intelekto paslaugas su mažesniu delsos laiku. Be to, konkurencija dirbtinio intelekto lustų rinkoje didėja, o tai gali reikšti geresnes kainas ir daugiau pasirinkimo galimybių galutiniams vartotojams.

Galiausiai verta paminėti, kad bandymuose nebuvo palyginta su naująja „Nvidia“ „Vera Rubin“ architektūra, kuri buvo pradėta tiekti tik neseniai. Todėl „Jalapeño“ pranašumas gali sumažėti, kai „Nvidia“ išleis naują kartą. Nepaisant to, „OpenAI“ pažanga rodo, kad dirbtinio intelekto pramonė žengia į naują etapą, kuriame vis svarbesnį vaidmenį atliks pritaikyta įranga. Efektyvumo ir greičio lenktynės tik prasidėjo.

„Amazon“ integruos „Nvidia“ technologiją į dirbtinio intelekto lustus ir paleis naujus serverius
Susijęs straipsnis:
„Amazon“ integruos „Nvidia“ technologiją į savo dirbtinio intelekto lustus ir pristatys naujus „Trainium“ serverius

Pridėti kaip pageidaujamą šaltinį „Google“ sistemoje