Játékkal edzenéd magad LLM ellen? A szerepjáték növeli az AI-ellenállást
A LLMimic nevű interaktív oktatóanyagban a felhasználók egy LLM szerepébe bújva sajátíthatják el a betanítási folyamat főbb lépéseit.
Az arXiv:2604.02637v1 számon megjelent kutatás szerint egy új, gamifikált oktatóanyag, a LLMimic segíthet abban, hogy a felhasználók ellenállóbbá váljanak az AI-alapú meggyőzéssel szemben — írja az arXiv.
A tanulmányban a résztvevők egy nagyméretű nyelvi modell (LLM) szerepébe bújva haladtak végig a betanítási folyamat három kulcsfontosságú szakaszán: az előzetes képzésen (pretraining), a felügyelt finomhangoláson (SFT) és a megerősítéses tanuláson emberi visszajelzéssel (RLHF). Ez a szerepjáték-alapú megközelítés interaktív módon mélyíti el az AI-ismereteket.
A kutatók egy 274 fős, úgynevezett 2x3-as elrendezésű vizsgálatot végeztek. Az egyik csoport egy AI történetéről szóló videót nézett meg (kontrollcsoport), míg a másik a LLMimic programmal interakcióba lépett. Ezt követően a résztvevők három valósághű AI-meggyőzési forgatókönyv egyikében vettek részt: jótékonysági adománygyűjtésben, rosszindulatú pénzkérésben vagy szállodai ajánlásban.
A korábbi védekezési módszerek — mint az AI-detektorok vagy a figyelmeztetések — passzív befogadóként kezelik az embereket az AI által generált információkkal szemben. A LLMimic célja éppen az, hogy proaktív beavatkozást nyújtson a meggyőző AI ellen, ahelyett, hogy az emberek csupán passzívan fogadnák az információkat. A kutatás eredményei azt mutatják, hogy az AI-ismeretek növelhetik az emberek kritikus gondolkodását az AI-generált tartalmakkal szemben.