Elon Musk szakértője figyelmeztet az AGI-fegyverkezési versenyre

Az AGI fejlesztésével járó kockázatokra és a szabályozás szükségességére hívta fel a figyelmet Stuart Russell, Elon Musk egyetlen szakértő tanúja az OpenAI elleni perben — írja a TechCrunch. Russell, aki évtizedek óta kutatja az AI-t, a bíróság előtt arról beszélt, hogy a technológia elég veszélyes ahhoz, hogy aggódjunk miatta.

Russell szerint feszültség van az AGI elérése és a biztonság között, és a „győztes mindent visz” mentalitás fegyverkezési versenyt generál a vezető laborok között. Az AI-kutató korábban, 2023 márciusában egy nyílt levelet is aláírt, amelyben hat hónapos szünetet sürgetett az AI-kutatásban, amit egyébként Elon Musk is aláírt, miközözben saját, profit-orientált xAI laborját indította.

Elon Musk ügyvédei azzal érvelnek, hogy az OpenAI-t eredetileg jótékonysági szervezetként hozták létre, amely az AI biztonságára összpontosított, de a profit hajszolása miatt letért az útjáról. Russell tanúvallomásában az AI fejlesztésével járó különféle kockázatokat sorolta fel, a kiberbiztonsági fenyegetésektől a félrehangolási problémákig és az AGI fejlesztésének „győztes mindent visz” jellegéig.

Az OpenAI ügyvédei a keresztkérdezés során azt próbálták megállapítani, hogy Russell nem értékelte közvetlenül a szervezet vállalati struktúráját vagy konkrét biztonsági irányelveit. Ennek ellenére a per rávilágít az OpenAI eredeti, non-profit céljai és a későbbi, profit-orientált működése közötti ellentmondásra, amelyet a számítási kapacitás iránti igény hajtott.

A jelentős számítási kapacitás iránti igény profit-orientált befektetők felé tolta az OpenAI-t, ami hozzájárult a mai „fegyverkezési verseny” dinamikájához. Russell régóta kritizálja ezt a versenyt, és szigorúbb kormányzati szabályozást sürget a területen.

Az AGI-fejlesztés árnyoldalai

Az OpenAI alapítói közül szinte mindenki komolyan figyelmeztetett az AI kockázataira, miközben igyekeztek a lehető leggyorsabban fejleszteni a technológiát, és profit-orientált AI-vállalkozásokat terveztek. Ez a dinamika már nemzeti szinten is megfigyelhető: Bernie Sanders szenátor adatközpont-építési moratóriumra vonatkozó törvényjavaslata Elon Musk, Sam Altman és Geoffrey Hinton AI-val kapcsolatos félelmeit visszhangozza.

Hodan Omaar, a Center for Data Innovation munkatársa kifogásolta, hogy Sanders csak a félelmeiket idézi, reményeiket nem, mondván, „nem világos, miért kellene a nyilvánosságnak mindent leértékelnie, amit a techmilliárdosok mondanak, kivéve, ha szavaikat egy bizonytalan érv hiányosságainak kitöltésére lehet felhasználni.” A bíróságnak most azt kell eldöntenie, hogy Musk és Altman érveinek mely részeit veszi komolyan Judge Yvonne Gonzalez Rogers.