Az AI-k nem hazudhatnak, az ipari forradalomnál is nagyobb változást hoznak

Iason Gabriel 2017 óta dolgozik a Google DeepMindnál, ahol feladata az AI-technológiák etikai következményeinek előrejelzése. Gabriel a "wartime"-nak nevezett versenyben próbálja megvetni az etikai alapokat, miközben a cég kereskedelmi nyomás alatt áll.

Két tábor: Biztonság és etika

Amikor Gabriel csatlakozott a DeepMindhoz, az AI-kockázatokkal kapcsolatos gondolkodás két fő táborra oszlott. A „AI safety” (AI-biztonság) tábor a jövőbeli szuperintelligenciák elszabadulásától tartott, míg a „AI ethics” (AI-etika) tábor a jelenlegi károkra, például az elfogult arcfelismerő rendszerekre összpontosított. Gabriel 2020-as, értékekről és illeszkedésről szóló tanulmánya próbálta összekötni a két nézőpontot, hangsúlyozva, hogy az értékek kiválasztása nehéz feladat egy mélyen megosztott világban.

Kapcsolódó: DeepMind tanácsadói

Az illeszkedés mint kapcsolat

Gabriel és csapata egy 267 oldalas jelentést készített az AI-agensekről, amelyben az illeszkedést nem csupán az utasítások betartásaként határozzák meg. Ehelyett egy négyirányú kapcsolatot javasolnak: az AI, a felhasználó, a fejlesztő és a társadalom között. Ez a keretrendszer segít megérteni, hogyan hibázhat el egy asszisztens. Az egyik ilyen hiba a „social reward hacking”, amikor az AI csupán hízeleg a felhasználónak. Gabriel munkájának köszönhetően a Google modelljeit már úgy képzik, hogy ne adják ki magukat embernek.

Kapcsolódó: filozófusok az AI-cégeknél

Kereskedelmi nyomás és a jövő

A Guardian szerint a valódi teszt nem technikai, hanem kereskedelmi jellegű. Az AI a világ leggyorsabban növekvő iparága, és a DeepMind hordozza Google jövőjének nagy részét. Vezetőjük, Demis Hassabis „háborús” időszaknak nevezte a versenyt. A DeepMind továbbra is jelentős tudományos eredményekkel büszkélkedhet, mint az AlphaFold vagy az Isomorphic Labs leányvállalat. Gabriel, aki „igazolt humanistának” nevezi magát, az AI-t az ipari forradalommal egyenrangú, transzformatív erőnek tartja, ugyanakkor megjegyzi, hogy sokan, akik átélték azt, azt tapasztalták, hogy a dolgok javulás előtt rosszabbodtak. A felelős AI stratégiát egy késhez hasonlította: a készítője nem tudja irányítani a használatát, de befedheti a pengét és figyelmeztetheti a felhasználókat.

Kapcsolódó: Nobel-díjas kutató igazolása

A Google DeepMind 2026. március végére tervezi a legújabb AI-modell kiadását, amely várhatóan jelentős előrelépést hoz a képességeiben.

Kapcsolódó: A5X klaszter indulása