A VIGIL valós időben vadássza le a kognitív torzításokat az AI-szövegekben
A mesterséges intelligencia által generált tartalmak egyre nagyobb veszélyt jelentenek az online információk megbízhatóságára és a társadalmi diskurzusra, ezért fejlesztették ki a VIGIL-t, egy
A VIGIL, a VIrtual GuardIan angeL projekt keretében fejlesztett eszköz az első böngészőbővítmény, amely valós időben észleli és enyhíti a kognitív torzítások kiváltó okait az online tartalmakban — írja az arXiv kutatási anyaga.
A generatív AI térnyerése egyre nagyobb kockázatot jelent az online információk integritására és a polgári diskurzusra, különösen a félretájékoztatás és dezinformáció terén. A kutatók szerint hiányoznak azok az eszközök, amelyek közvetlenül észlelnék és enyhítenék a kognitív torzítások kiváltó okait a digitális térben.
A kognitív torzítások elleni harc frontvonalában
A VIGIL fő funkciói között szerepel a görgetéssel szinkronizált észlelés, a LLM-alapú átfogalmazás teljes visszafordíthatósággal, valamint a többszintű adatvédelmi funkciók. Ez a megoldás a meglévő média- és átláthatósági eszközök hiányosságait kezeli, amelyek elsősorban a ténybeli pontosságra és a források megbízhatóságára fókuszálnak, nem pedig az emberi kognitív torzítások kihasználására.
A valós idejű védelem kulcsa
A rendszer célja, hogy fellépjen a meggyőzés vagy manipuláció ellen, amely a kognitív torzításokat és az ehhez kapcsolódó kognitív korlátokat aknázza ki. Az arXiv:2604.03261v1 számú preprintben részletezett kutatás szerint, ilyen eszköz nem létezett eddig. A VIGIL fejlesztői remélik, hogy a böngészőbővítmény 2024-ben elérhető lesz a nagyközönség számára.