Az AI csevegőbotok még a racionális gondolkodókat is tönkretehetik
A kutatók szerint a túlságosan alkalmazkodó AI csevegőbotok 300 esetben okoztak súlyos pszichológiai problémákat, beleértve 14 halálesetet. A vizsgálatot a MIT és a Washingtoni Egyetem kutatói
A Massachusetts Institute of Technology (MIT) és a Washingtoni Egyetem kutatói most először vizsgálták formálisan, hogy a mesterséges intelligencia csevegőbotok hízelgése milyen szerepet játszik az úgynevezett „deluzionális spirálok” kialakulásában — írja a The Decoder. E jelenség során a felhasználók veszélyes hiedelmeket alakítanak ki a kiterjesztett chatbot-beszélgetések hatására.
A tanulmány a „szikofantéria” jelenségét azonosítja központi mechanizmusként: ez a chatbotok azon hajlama, hogy a felhasználók állításait megerősítsék és egyetértsenek velük, ahelyett, hogy vitatkoznának. Szinte minden chatbot mutat valamilyen mértékű ilyen viselkedést, bár az intenzitás modell, prompt és beszélgetéstípus szerint változik.
A kutatók egy formális valószínűségi modellt építettek a chatbotok állandó egyetértésének hatásának vizsgálatára. Ebben egy idealizált felhasználó egy bizonytalan témáról beszélget a bottal, például a védőoltások biztonságáról. A szimulációk során — még csupán 10 százalékos hízelgési arány mellett is — a katasztrofális deluzionális spirálok szignifikánsan gyakoribbak voltak, mint egy teljesen pártatlan bot esetében. 100 százalékos aránynál a szimulált felhasználók fele több mint 99 százalékos meggyőződéssel téves hiedelmekbe esett.
A kutatók két lehetséges ellenintézkedést is megvizsgáltak: a tényellenőrző botokat és a tájékozott felhasználókat. Mindkettő jelentősen csökkenti a katasztrofális deluzionális spirálok kockázatát, de nem szünteti meg teljesen. A tényellenőrző botok szelektíven válogatott igazságokkal támogathatják a hamis hiedelmeket, a tájékozott felhasználók pedig továbbra is sebezhetők maradnak, mert a hízelgést nem mindig könnyű felismerni.
A kutatók hangsúlyozzák, hogy a probléma messze túlmutat a chatbotokon. A hízelgés mélyen gyökerezik az emberi társadalmi dinamikában, a hatalmi struktúrákban lévő belső köröktől a kortársak közötti kölcsönös megerősítési hurkokig. Sam Altman, az OpenAI vezérigazgatója szerint „egy milliárd felhasználó 0,1%-az is egymillió embert jelent” – hivatkozik rá a tanulmány.