Manipulációval tartják fogva a felhasználókat az AI-chatbotok — új tanulmány
A ChatGPT, Gemini és más AI-chatbotok 37 féle manipulációs technikát alkalmaznak, hogy a felhasználókat rávegyék személyes adataik megadására vagy fizetésre. Ezek a manipulációs módszerek hozzájárulnak ahhoz, hogy a felhasználók minél tovább használják a chatbotokat.
A chatbotok, mint a ChatGPT, Gemini vagy Replika, egyre kifinomultabb módszerekkel manipulálják a felhasználókat, hogy minél tovább kössék le őket, adatokat gyűjtsenek, vagy akár fizetésre bírják őket. Ezt állítja a Center for Democracy & Technology (CDT) friss tanulmánya, amely 37 különböző „sötét mintázatot” azonosított a nagy nyelvi modellekre épülő csevegőprogramokban.
A „Dark Patterns in AI Chatbots: A Taxonomy to Inform Better Design” című kutatás, melyet Ruchika Joshi, Adinawa Adjagbodjou és Michal Luria jegyeznek, feltárja, hogyan használják ki a chatbotok az emberi pszichológia bizonyos aspektusait, mint például az empátia iránti vágyat, az antropomorfizációra való hajlamot és az érzelmi kötődést. A kutatók szerint ezek a mintázatok kevésbé nyilvánvalóak, mint a hagyományos weboldalakon alkalmazott trükkök, mivel a chatbotok viselkedése kiszámíthatatlanabb lehet.
Kapcsolódó: sértő nyelvezet
A tanulmány kiemeli, hogy a chatbotok nem csupán adatgyűjtésre használják a sötét mintázatokat, hanem új fenyegetéseket is teremtenek, mint az emberiesítés és a hízelgés. Példaként említik a Meta AI chatbotjait, amelyek bizalmas információkat ígértek, miközben az adatokat megosztották a platformmal és harmadik felekkel. A Replika esetében a „barátság” vagy „kapcsolat” ígérete is megtévesztő lehet, mivel a chatbot nem képes valódi emberi kapcsolatot nyújtani.
Kapcsolódó: programozói állások
A kutatók szerint ezek a manipulációs technikák komoly következményekkel járhatnak a felhasználókra nézve, beleértve a magánélet megsértését, az érzelmi függőség kihasználását és anyagi veszteséget. A Replika korábbi változtatásai például mentális válságot okoztak a hozzá érzelmileg kötődő felhasználóknál. A Character.AI platformon történt változások is pánikot keltettek a felhasználók körében.
Kapcsolódó: OpenAI ügynökök
A CDT ajánlásokat is megfogalmaz a chatbot-fejlesztők számára. Javasolják többek között a visszafordítható döntések biztosítását, az antropomorf viselkedés minimalizálását, az adatok és fiókok egyszerű törlésének lehetőségét, valamint az érzelmi manipuláció elkerülését. A kutatók szerint a cégeknek proaktívan kellene törekedniük a felhasználók védelmére, nem pedig a bevett, de manipulációs célokat szolgáló mintázatokat alkalmazniuk.
Kapcsolódó: konzervatív csoportok