Heidecke távozik az OpenAI-tól, új biztonsági vezetőt neveztek ki

Az OpenAI ismét a kutatás alá vonta a biztonsági és kutatási csapatokat, ami Johannes Heidecke, a biztonsági rendszerek vezetőjének távozásával járt — közölte a Wired.

Helyettesítés és szervezeti változások

Chief Research Officer Mark Chen tájékoztatta a munkatársakat egy emlékeztetőben, miszerint a biztonsági csapatok mostantól Mia Glaese-nek, az újonnan létrehozott kutatási és biztonsági alelnöki pozíció betöltőjének jelentenek. Saachi Jain lett az ideiglenes biztonsági rendszerek vezetője, amíg a cég megkeresi Heidecke végleges utódját. Ez kevesebb mint két éven belül már a második alkalom, hogy az OpenAI a biztonsági szervezetét egy kutatási vezető alá rendeli.

Kapcsolódó: AI biztonsági ösztöndíj

Heidecke karrierje az OpenAI-nél

Heidecke 2021-ben csatlakozott az OpenAI-hoz AI biztonsági elemzőként, majd vette át a biztonsági rendszerek vezetői pozícióját Lilian Wengtől. Munkája kiterjedt a modellillesztésre, szabályalapú rendszerekre és a veszélyes képességekkel rendelkező modellekkel kapcsolatos felkészülési értékelésekre.

Kapcsolódó: Codex-mini szabotája

Chen köszönetet mondott Heideckének, kiemelve, hogy „fontos, hogy biztonsági munkánk integrálódjon az élvonalbeli modellfejlesztéssel, korábbi és közvetlenebb szerepet vállalva a kulcsfontosságú modell-, termék- és bevezetési döntések alakításában.” Heidecke a legújabb a biztonsági területen dolgozó vezető személyek sorában, akik az elmúlt két évben távoztak vagy átszervezésen estek át a cégnél.

Kapcsolódó: AI biztonsági rangsor

Az OpenAI Superalignment csapata, amelyet 2023-ban jelentettek be a cég számítási kapacitásának 20%-ának ígéretével, májusban feloszlott, miután társvezetői távoztak. Leike távozásakor nyilvánosan írta, hogy „a biztonsági kultúra és a folyamatok háttérbe szorultak a csillogó termékek mögött.” Az AGI Readiness csapat 2024 októberében követte, amikor vezetője, Miles Brundage lemondott; a Mission Alignment csapat, a Superalignment utódja, 16 hónap után oszlott fel, vezetőjét, Joshua Achiam-ot pedig „chief futurist” címmel nevezték ki.

Kapcsolódó: OpenAI-Microsoft együttműködés

Glaese kibővített címe arra utal, hogy az OpenAI továbbra is prioritásként kezeli a biztonságot az új struktúrában. A cég április 6-án elindított egy Safety Fellowship programot, amely meghívja a külső kutatókat független biztonsági és illesztési munkák elvégzésére. Chen szerint az, hogy a biztonságot a kutatáson belül helyezik el, biztosítja, hogy a döntéshozatalban a kezdetektől részt vegyenek, nem pedig csak a bevezetés előtti utolsó ellenőrzőpontként.

Kapcsolódó: IBM szoftvervédelem

A kritikusok szerint a kutatáson belül működő biztonsági csapatnak kevesebb a strukturális függetlensége és kisebb a befolyása egy termék késleltetésére vagy blokkolására, mint egy különálló csapatnak. A távozás azután történik, hogy az OpenAI egyre fokozódó külső vizsgálatokkal néz szembe. Negyvenkét állami főügyész indított vizsgálatot a cég ellen, miután a cég titkon részvénykibocsátásra készült.