AI-generált cikkek árasztják el a tudományos folyóiratokat

A tudományos folyóiratok szerkesztőit és a bírálókat elárasztják az AI-generált cikkek, amelyeket szinte lehetetlen kiszűrni — írja a The Verge.

Peter Degen, a Zürichi Egyetem Reprodukálható Tudomány és Kutatási Szintézis Központjának posztdoktori kutatója tavaly nyáron szembesült azzal, hogy egyik, 2017-ben publikált cikke szokatlanul sok idézést kap. A kutatás az epidemiológiai adatok statisztikai elemzésének pontosságát vizsgálta, és bár korábban is idézték, most naponta több tucatszor hivatkoztak rá, ami Degen szerint aggodalomra adott okot.

Degen nyomozása során kiderült, hogy az idéző cikkek mind hasonló mintát követtek. Az eredetihez hasonlóan a Global Burden of Disease tanulmányt, a Washingtoni Egyetem Egészségügyi Metrikák és Értékelési Intézete által összeállított nyilvánosan elérhető adathalmazt elemezték. Ezek a tanulmányok azonban látszólag végtelen számú előrejelzést generáltak különböző betegségekről és populációkról. Degen a kínai Bilibili közösségi oldalon talált rá egy Guangzhou-i székhelyű cégre, amely oktatóanyagokat kínált arról, hogyan lehet két óra alatt publikálható kutatást készíteni szoftvereszközeik és AI írássegítőjük segítségével.

A tudományos hitelesség válsága

Bár ezek a tanulmányok tele voltak hibákkal és félrevezető állításokkal, már nem voltak olyan kirívóan rosszak, mint a korábbi AI-generált cikkek, ami megnehezíti a kiszűrésüket. „Ez óriási terhet ró a peer-review rendszerre, amely már így is a határain van” — mondta Degen. Hozzátette, hogy túl sok cikk jelenik meg, és nincs elég bíráló, a LLM-ek pedig megkönnyítik a tömeges cikkgyártást, ami a rendszer összeomlásához vezethet.

Az elmúlt évtizedben az akadémiai kiadók az úgynevezett „papírmalmokkal” küzdöttek, amelyek tömegesen gyártanak cikkeket, és szerzői helyeket adnak el akadémikusoknak, orvosoknak vagy másoknak, akik versenyelőnyt remélnek a publikált kutatásoktól. A generatív AI fellendítette ezeket a malmokat, segítve őket a plágiumdetektorok kijátszásában, teljesen új képek és szövegek létrehozásával. A technológia fejlődésével azonban az AI már képes meggyőző cikkeket előállítani, ami a tudományos „slop” (szenny) áradatához vezet, és fenyegeti a publikálást, a peer-review-t, a támogatások odaítélését és a kutatási rendszert.

Matt Spick, a Surrey Egyetem egészségügyi és biomedikai adatelemző oktatója, valamint a Scientific Reports szerkesztője három feltűnően hasonló cikket észlelt, amelyek az US National Health and Nutrition Examination Survey (NHANES) nyilvános adathalmazt elemezték. Spick szerint a jelenség azóta robbanásszerűen terjed, és a cikkek gyakran félrevezető korrelációkat mutatnak be. Tavaly több folyóirat is korlátozni kezdte a nyilvános adathalmazokat elemző cikkek benyújtását a redundáns kutatások áradata miatt. Az OpenAI tudományos alelnöke, Kevin Weil szerint a 2026-os év az AI és a tudomány számára olyan lesz, mint a 2025-ös év az AI és a szoftverfejlesztés számára.