Kínai AI-szakértők is aggódnak a verseny miatt — együttműködést sürgetnek

A mesterséges intelligencia (AI) globális versenye rendszerszintű kockázatokat rejt magában, amelyek katasztrofális következményekkel járhatnak, ha a két vezető AI-hatalom, az Egyesült Államok és Kína nem működik együtt a biztonsági kihívások kezelésében. Ezt a véleményt fogalmazta meg Stephen Casper, a MIT kutatója egy pekingi AI-konferencián, amelyet a Beijing Academy of Artificial Intelligence szervezett. A konferencián olyan legendás számítástechnikai szakemberek is részt vettek, mint Whitfield Diffie és Andrew Barto.

Az Egyesült Államok eddig nagyrészt nemzetbiztonsági fenyegetésként tekintett Kína AI-fejlesztéseire, szigorú korlátozásokat vezetett be a chipekre és a chipgyártó berendezésekre, hogy lassítsa az ország fejlődését. A legutóbbi lépésként az amerikai kormány arra kötelezte az Anthropicot, hogy tiltsa meg a külföldi állampolgárok számára a legfejlettebb modelljeihez, a Mythoshoz és a Fable 5-höz való hozzáférést nemzetbiztonsági aggályok miatt. Válaszul az Anthropic mindenki számára visszavonta a hozzáférést.

Kapcsolódó: AI fejlesztési verseny

Közös veszélyek, közös megoldások

A konferencia megerősítette azt az elképzelést, hogy mind az Egyesült Államok, mind Kína sokat veszíthet, ha az AI-t túl gyorsan és meggondolatlanul fejlesztik. Ahogy az AI egyre erősebbé, ügynökszerűbbé és mindennapi életünkkel egyre inkább összefonódóbbá válik, nő a kockázata annak, hogy kibertámadásokra használják, vagy katasztrofális módon hibázik. Mivel a világ két domináns AI-hatalma felelős a legfejlettebb modellek fejlesztéséért, az együttműködés kulcsfontosságúvá válik. Casper kutatásokra hivatkozott, amelyek szerint a nemzetközi együttműködés előnyei az AI-veszélyekkel kapcsolatban felülmúlják a közös munka nemzetbiztonsági kockázatait. Hasonlatként említette az Egyesült Államok és a Szovjetunió kényszerű együttműködését a nukleáris veszélyekkel kapcsolatban, miközben egymással versengtek a fegyverkezésben.

Kapcsolódó: LLM és nukleáris kockázat

Új kihívások a kódgenerálásban és a kibertámadásokban

Egy egész napos szekció rávilágított a fejlettebb AI által felvetett kibernetikai kihívások univerzalitására. Ezek közé tartoznak az AI-generált kód új típusú sebezhetőségei, a rendszerek támadásának új módjai az ügynökszerű eszközhasználat révén, valamint a szociális mérnöki támadások automatizált módszerei. Lin Yun, a Shanghai Jia Tong Egyetem professzora szerint a hackerek rövid távon előnybe kerülhetnek, de az új védekezési módszerek, beleértve az AI új felhasználásait is, idővel visszaállíthatják a védelem fölényét. Yun hangsúlyozta, hogy még ha a nemzetközi együttműködést bonyolítja is a verseny, prioritásnak kell maradnia. „Ha a különböző országok hasonlóan értik a kockázatokat, könnyebb közös biztonsági elveket és műszaki szabványokat kidolgozni” — mondta.

Kapcsolódó: AI szakadék és biztonság

Nyitottság és kockázat egyensúlya

Talán a legégetőbb kérdés mindkét nemzet számára az, hogyan lehet egyensúlyt teremteni a nyitottság és a kockázat között. Az open-weight modellek kulcsfontosságúvá váltak a kutatás és az innováció szempontjából, és a kínai modellek népszerűnek bizonyultak az Egyesült Államokban. Azonban ahogy ezek a modellek fejlődnek, egyre nagyobb kihívást jelent majd biztosítani, hogy ne segítsék a hackereket a biztonsági réseik azonosításában, és ne lehessen őket kibernetikai fegyverként felhasználni. A kínai cégek vezetik az élvonalbeli, nyílt AI-modellek kínálatát, míg az Egyesült Államok is újraindította saját nyílt AI-törekvéseit. Azonban egy olyan fordulóponthoz közeledünk, ahol még a kevésbé erős nyílt modellek is veszélyesnek bizonyulhatnak, ha megfosztják őket a biztonsági korlátoktól. A 360 Security Technologies, egy vezető kínai kiberbiztonsági cég nemrégiben bejelentette, hogy kifejlesztett egy AI-modellt hackelési képességekkel, amelyek a Mythos-szal vetekednek.

Kapcsolódó: AI-biztonsági kutatás

Yun szerint az iparágnak új módszereket kell kidolgoznia annak garantálására, hogy a nyílt modellek naprakészek, hátsó ajtók és sebezhetőségek nélküliek, és megfeleltek a biztonsági szabványoknak. Egy lehetséges jel erre, hogy egyes kínai AI-cégek már nem adják ki fejlett modelljeiket nyílt forráskódként a biztonsági aggályok miatt. A verseny kiéleződése és a biztonsági kockázatok növekedése miatt az együttműködés fontossága egyre inkább előtérbe kerül, különösen a globális AI-biztonság szempontjából. A 360 Security Technologies modellje például a Mythos-szal vetekedő hackelési képességekkel rendelkezik.

Kapcsolódó: AI tudásfejlődés