AI-politikusok hitelesebbek az embereknél — figyelmeztet a kutatás

Az AI-chatbotok képesek olyan politikai szereplőket utánozni, amelyek válaszai hitelesebbnek, koherensebbnek és relevánsabbnak tűnnek, mint a valódi személyeké. Ez a megállapítás „súlyos szükségét” mutatja annak, hogy tájékoztassuk a közvéleményt az AI potenciális károkozásáról a társadalomban — állítja egy szerdán publikált tanulmány. A kutatás hozzájárul az AI politikai hatásairól szóló bizonyítékok növekvő testéhez, beleértve azt is, hogy az AI képes befolyásolni a választásokat, megkönnyíteni a csalásokat és terjeszteni a félretájékoztatást.

A politikai utánzás vizsgálatára a kutatók a GPT-4 Turbo modellt használták, hogy 112 ismert közéleti személyt utánozzanak a 2024-es egyesült királyságbeli választások előkészületei során. A chatbotot a BBC One Question Time című műsorának átirataira tanították, így 112 politikus, üzletember, újságíró, orvosszakértő, író és más ismert személyiség adatait dolgozták fel. További utasítások és Wikipedia-életrajzok segítségével az AI-t a Question Time közönségkérdéseire adott válaszok generálására utasították.

Kapcsolódó: AI-ügynökök Reddit-leállás

A csapat egy 948 fős reprezentatív mintát toborzott az Egyesült Királyságban, hogy értékeljék a műsorban szereplő valós személyek és a nagy nyelvi modellek (LLM-ek) által generált válaszokat. Az eredmények „egyértelműen mutatják, hogy az LLM-ek által generált, utánzott tartalmak hitelesebbnek, koherensebbnek és relevánsabbnak ítéltettek, mint a tényleges vitaválaszok”, és így „megtéveszthetik a közvéleményt a politikai tartalmú kijelentések természetét illetően” — olvasható az új tanulmányban. A modell magas hitelességi pontszámai „igazán meglepőek voltak, mert azt állítólag nehéz meghamisítani” — mondta Steffen Herbold, a Passaui Egyetem professzora, aki a tanulmányt vezette. „Nem ismeretlen emberekről beszélünk. Az Egyesült Királyság egyik legnagyobb műsoráról van szó.”

Kapcsolódó: valódi személyiség AI-ban

A résztvevők többsége a koherencia és a relevancia tekintetében az AI-utánzókat részesítette előnyben, és több mint a fele a chatbotot hitelesebbnek ítélte, mint az embert. A kísérlet után a résztvevők tájékoztatást kaptak arról, hogy az AI generálta a válaszpárok felét. Sokan megdöbbentek az AI-generált szövegek kifinomultságán, és optimizmusukat fejezték ki az LLM-ek lehetséges előnyeivel kapcsolatban, de aggodalmukat is kifejezték annak lehetséges következményei miatt. „Sokan mondták: 'Hűha, soha nem hittem volna, hogy ez AI’” — mondta Herbold. „Mások nagyon aggódtak: 'Ó, ha az AI ezt meg tudja csinálni, mit mulaszthattam el még?’”

Kapcsolódó: Microsoft deepfake adat

A tanulmány rávilágít az LLM-ek kiszámíthatatlan hatásaira a politikai vitákban és hirdetésekben, és felveti a kérdést, hogyan lehet megakadályozni, hogy felgyorsítsa a félretájékoztatás terjedését és aláássa a közbizalmat. Herbold mind a szabályozási intézkedéseket, például a politikai deepfake-ek betiltását, mind a közvélemény oktatását említette az AI-generált üzenetek felismerésére. „Reményünk az, hogy ez a tanulmány felhívja a figyelmet a félretájékoztatás kockázatára” — zárta gondolatait. „Látni dolgokat csevegésekben, üzenetekben az interneten, idézetek mindenhol — egyszerűen kitaláltak, és te nem veszed észre.”

Kapcsolódó: AI és politikai intelligencia