Privacy Evaluation of Generative Models for Trajectory Generation
A generatív modellek nem garantálják az adatvédelmet. Komoly adatvédelmi hiányosságokat találtak a trajektória-generálási feladataikban.
Komoly adatvédelmi hiányosságokat tártak fel a generatív modellek trajektória-generálási feladataiban — írja az ArXiv-en megjelent tanulmány. A modern városi intelligencia alapját képező trajektória adatok rendkívül érzékenyek, ezért védelmük kulcsfontosságú.
A Generatív Adversarialis Hálózatok (GAN), Variációs Autoenkóderek (VAE) és Diffúziós Modellek (DM) képesek valósághű szintetikus trajektória adatokat előállítani, megragadva a mögöttes térbeli-időbeli eloszlásokat és mobilitási mintákat. Bár ezen modellekről gyakran feltételezik, hogy generatív természetük miatt megőrzik az adatvédelmet, ez a feltételezés nem feltétlenül állja meg a helyét.
A kutatás a generatív trajektória modellezés és az adatvédelmi értékelés metszéspontját vizsgálta. Az adatvédelem megőrzésének empirikus módszereit azonosítva a trajektória-generálási feladatokban, a tanulmány jelentős hiányosságot mutatott ki a generatív trajektória modellek adatvédelmi értékelésében.
E hiányosságra reagálva a kutatók Tagsági Következtetési Támadásokat (Membership Inference Attacks) hajtottak végre reprezentatív modellek ellen, demonstrálva a támadások megvalósíthatóságát. Az AWS szerint az adatvédelmi és biztonsági aggályok akkor merülnek fel, ha saját adatokkal szabják testre a generatív AI modelleket, ezért biztosítani kell, hogy a generatív AI eszközök korlátozzák a jogosulatlan hozzáférést a védett adatokhoz.