Az AI chatbotok homogenizálják gondolkodásunkat, csökkentve a kollektív bölcsességet
Egy USC-tanulmány szerint a chatbotok egységesítik az írás stílusát és az érvelési stratégiákat — a kutatók több valós diverzitást sürgetnek a betanítási adatokban.
A mesterséges intelligencia (AI) chatbotok egységesítik az emberi beszédet, írást és gondolkodást — állítja a Cell Press Trends in Cognitive Sciences című folyóiratában megjelent véleménycikk. Ha ez a homogenizáció ellenőrizetlenül folytatódik, az emberiség kollektív bölcsességének és alkalmazkodóképességének csökkenését kockáztatja, írják az USC számítógép-tudósai és pszichológusai.
Morteza Dehghani, az USC Dornsife Pszichológiai és Számítógép-tudományi Kar professzora vezette kutatócsoport szerint az AI-fejlesztőknek több valós diverzitást kellene beépíteniük a nagy nyelvi modellek (LLM) betanítási adathalmazaiba. Ez nemcsak az emberi kognitív diverzitás megőrzését segítené, hanem a chatbotok érvelési képességeit is javítaná.
„Az egyének eltérően írnak, érvelnek és látják a világot” — mondta Zhivar Sourati, a tanulmány első szerzője, az USC Viterbi Műszaki Iskolájának PhD hallgatója. Hozzátette: amikor ezeket a különbségeket ugyanazok a LLM-ek közvetítik, jellegzetes nyelvi stílusuk, perspektívájuk és érvelési stratégiáik homogenizálódnak, ami szabványos kifejezéseket és gondolkodásmódokat eredményez a felhasználók körében.
A LLM elnyomja az egyéniséget
A kutatók szerint a kognitív diverzitás csoportokon és társadalmakon belül is ösztönzi a kreativitást és a problémamegoldást. Ez a sokszínűség azonban világszerte csökken, mivel emberek milliárdjai használják ugyanazt a maroknyi AI chatbotot egyre több feladatra. Amikor az emberek például chatbotokat használnak írásaik csiszolására, az írás elveszíti stilisztikai egyediségét, és az emberek kevésbé érzik magukénak az elkészült művet.
Sourati rámutatott, hogy a LLM kimenetek kevésbé változatosak, mint az ember által generált írások, és hajlamosak a nyugati, képzett, iparosodott, gazdag és demokratikus társadalmak nyelvére, értékeire és érvelési stílusaira reflektálni. Mivel a LLM-eket úgy képzik, hogy rögzítsék és reprodukálják a betanítási adataik statisztikai szabályszerűségeit, amelyek gyakran túlsúlyban vannak a domináns nyelvek és ideológiák, a kimeneteik gyakran az emberi tapasztalatok szűk és torz szeletét tükrözik.
A kutatók szerint az AI-fejlesztőknek szándékosan kellene beépíteniük a nyelvi, perspektíva- és érvelési sokszínűséget modelljeikbe. Hangsúlyozták, hogy ennek a diverzitásnak a globálisan létező emberi sokféleségben kell gyökereznie, nem pedig véletlenszerű variációk bevezetésében. A kutatást az Air Force Office of Scientific Research támogatásával végezték, Alireza Ziabari, az USC Viterbi PhD hallgatója is hozzájárult a munkához.