Az OpenAI saját AI-chipet fejlesztett a Broadcommal

Az OpenAI saját AI-gyorsítót, a Jalapeñót fejlesztett ki a Broadcommal együttműködve. A chipet kifejezetten az OpenAI inferenciarendszereinek igényeihez tervezték, és a cég állítása szerint „jelentősen jobb” teljesítményt nyújt a jelenlegi élvonalbeli megoldásoknál. Ez az újítás komoly hatékonyságbeli előnyt biztosíthat az AI-óriásnak.

A Jalapeño fejlesztése mindössze néhány hónapot vett igénybe, ami példátlanul gyorsnak számít az ASIC-fejlesztések történetében. Az OpenAI saját AI-modelljei is részt vettek a chip tervezési folyamatában, ami tovább gyorsította a projektet. A cég szerint ez az együttműködés a leggyorsabb ASIC-fejlesztési ciklust eredményezte a nagy teljesítményű, fejlett félvezetőiparban.

Kapcsolódó: chipfinanszírozás

A Jalapeño chip célja, hogy optimalizálja az OpenAI modelljeinek futtatását, különösen az inferencia (inference) fázisban. Ez az a folyamat, amikor a betanított modell valós idejű válaszokat generál a beérkező adatokra. A speciálisan erre a feladatra tervezett hardver jelentősen csökkentheti a számítási költségeket és növelheti a válaszadási sebességet.

Kapcsolódó: AI chip bejelentés

Az új chip bevezetése illeszkedik az AI-cégek azon trendjéhez, hogy saját hardverfejlesztésbe fektessenek. Ez lehetővé teszi számukra, hogy jobban kontrollálják a teljesítményt, a költségeket és az ellátási láncot, szemben a külső GPU-gyártóktól (mint az NVIDIA) való függőséggel. Az OpenAI lépése azt sugallja, hogy a cég hosszú távon is elkötelezett a saját számítási infrastruktúrájának kiépítése mellett.

Kapcsolódó: ChatGPT fejlesztés