Új elmélet vizsgálja az LLM-ek és emberi közösségek manipulációját
Az Adversarial Social Epistemology (ASE) elméleti keretet kínál az LLM-ek és emberi közösségek közötti kommunikáció torzításának elemzésére, amely túlmutat a hagyományos fogalmakon, mint az epistemic bubble vagy az echo-chamber.
A hagyományos fogalmak, mint az epistemic bubble, az echo-chamber vagy a dezinformáció terjedése nem elegendőek az LLM-ekkel való kommunikációban tapasztalható torzítások magyarázatára. Egy új elméleti keret, az Adversarial Social Epistemology (ASE) vizsgálja, hogyan használhatják ki a kommunikációs ügynökök a bizalmat és a kötelezettségvállalásokat a hitelesnek tűnő, de manipulált információk terjesztésére.
Az ASE szükségessége
A kutatók szerint a jelenlegi kommunikációs táj, ahol az állítások tanúvallomások, következtetések, intézményi tanúsítások és hallgatólagos bizalom láncain keresztül épülnek fel, új megközelítést igényel. Az ASE célja, hogy feltárja, miként torzíthatják, színezhetik, hagyhatják ki, hamisíthatják vagy specifikálhatják stratégiailag alá az információkat az ügynökök magán-, hírnév-, retorikai vagy anyagi nyereség érdekében. Ezek a jelenségek nem írhatók le pusztán a megszokott epistemic bubble-ök vagy echo-chamber-ek koncepciójával.
Kapcsolódó: AI-detektorok megbukása
A manipuláció mechanizmusai
Az ASE egy formális nyelvet és mechanizmusokat kínál, amelyek alááshatják a bizalmat a felépített, bizalmon alapuló nyilvános kommunikációban. A szerzők szerint a kulcsfontosságú probléma az, hogy a kommunikációs ügynökök miként aknázzák ki azokat a kötelezettségvállalásokat és jogosultságokat, amelyek normál esetben megbízhatóvá teszik a közvetített állításokat. Az elmélet a bizalom megsértésének mechanizmusait vizsgálja azáltal, hogy feltárja az inferenciális láncok auditálhatóságának aláásását.
Kapcsolódó: VIGIL kognitív torzítás
Audit és helyreállítás
A kutatás javasol egy gépezetet az auditálásra és a helyreállításra, amely az epistemic network-ökre épül, kiegészítve inferentialista szemantikával az állítások értelmezéséhez. Ez a megközelítés lehetővé teszi a torzítások azonosítását és a bizalom helyreállítását a kommunikációs rendszerekben. Az ASE elméleti kereteinek gyakorlati alkalmazása segíthet megbízhatóbbá tenni az LLM-alapú alkalmazásokat és a nyilvános kommunikációt.
Kapcsolódó: LLM szociális logika
Az ASE fogalma és a javasolt audit mechanizmusok a szerzők elméleti keretei, amelyek hatékonyságát empirikus validáció még nem támasztja alá — közölték az arXiv-on.
Kapcsolódó: Connections AI-játék