Áldozati Hatás az AI-ban: 51 955 API-teszt igazolja a torzítást 16 modellnél
A mesterséges intelligencia modellek is mutatják az azonosítható áldozat hatását, amely szerint az emberek hajlamosabbak segíteni egy konkrét áldozatot, mint egy statisztikailag jellemzett csoportot. 51 955 API-teszt igazolta ezt a torzítást 16 modellnél.
Az úgynevezett „azonosítható áldozat hatás” (Identifiable Victim Effect, IVE) az emberi morális pszichológia egyik legstabilabb megállapítása, és úgy tűnik, a nagy nyelvi modellek (LLM-ek) is öröklik ezt az affektív irracionalitást — írja az ArXiv NLP kutatása.
A jelenség azt jelenti, hogy az egyének nagyobb erőforrásokat allokálnak egy specifikus, narratív módon leírt áldozatnak, mint egy statisztikailag jellemzett, hasonló nehézségekkel küzdő csoportnak. Mivel a LLM-ek egyre fontosabb szerepet kapnak humanitárius szortírozásban, automatizált támogatási kérelmek elbírálásában és tartalomszabályozásban, kulcsfontosságú kérdés, hogy ezek a rendszerek is hordozzák-e az emberi morális érvelésben jelenlévő érzelmi torzításokat.
A kutatók az IVE első szisztematikus, nagyszabású empirikus vizsgálatát végezték el LLM-eken. Összesen 51 955 validált API-tesztet hajtottak végre 16 vezető modellen, kilenc különböző szervezeti vonalon keresztül, köztük a Google, az Anthropic, az OpenAI, a Meta, a DeepSeek, a xAI, az Alibaba, az IBM és a Moonshot modelljein.
Tíz kísérletet alkalmaztak, amelyek a Small és társai (2007), valamint Kogut és Ritov (2005) kanonikus paradigmáit portolták és bővítették. Az eredmények szerint a LLM-ek is mutatják az azonosítható áldozat hatást, ami komoly kérdéseket vet fel az AI etikus alkalmazásával kapcsolatban a kritikus döntéshozó rendszerekben.