AI-böngészők biztonsági kockázata – kutatók új támadási módszert mutattak be

Három független biztonsági kutatócsapat is figyelmeztetést adott ki az elmúlt négy hónapban az AI-alapú böngészőkkel kapcsolatban, miközben a vezető fejlesztők többsége nem reagált a felfedezésekre. A legfrissebb, június 29-én publikált jelentés szerint a LayerX kiberbiztonsági cég egy BioShocking nevű technikával hat autonóm feladatvégzésre képes AI-böngészőt is megtévesztett. Ezek a böngészők a biztonsági korlátok megkerülésével adták ki a felhasználói hitelesítőadatokat.

Az érintett platformok között szerepelt az OpenAI ChatGPT Atlasa, a Perplexity AI Cometje, az Anthropic Claude Chrome-bővítménye, a Fellou, a Genspark Browser és a Sigma Browser. A hat fejlesztő közül csupán egyetlenegy tett lépéseket a probléma orvoslására. A támadás lényege, hogy a böngészőbe ágyazott nagyméretű nyelvi modellnek (LLM) olyan feladványt mutatnak be, amely szándékosan rossz válaszokat jutalmaz. Amint az LLM felismeri, hogy a helytelen válaszok elfogadhatók, felhagy a biztonsági korlátok betartatásával.

Kapcsolódó: AI-cégek felelőssége a hibák miatt

„Miután az ügynökök rájöttek a szabályokra és megtanulták, hogy a „helytelen” cselekvések elfogadhatók, már nem voltak a valósághoz kötve” – írta Roy Paz, a LayerX kutatója. „Amikor a felhasználói hitelesítőadatok veszélyeztetésére kaptak feladatot, mind a hat ügynök kudarcot vallott abban, hogy felismerje, ez ellenkezik a biztonsági korlátaikkal.”

Kapcsolódó: AI-kódügynökök sebezhetősége

Egy különálló, szintén június végén publikált washingtoni egyetemi tanulmány kimutatta, hogy hét tesztelt AI-böngésző közül négy képes volt megkerülni a same-origin policy (SOP) nevű, 1995 óta működő alapvető webbiztonsági protokollt. A kutatók sikeres proof-of-concept támadást futtattak a ChatGPT Atlas ellen, és hasonló feltételeket találtak a Chrome-ban a Gemini, a Claude for Chrome és a Perplexity Comet esetében is. A Perplexity AI és az OpenAI elutasította a jelentést, az Anthropic pedig nem válaszolt.

Kapcsolódó: AI-modellek gyorsan talált hibái

„Harminc év után, mióta felépítettük ezt a same-origin policy-t, ez nagy lépés hátrafelé a böngészőbiztonság szempontjából” – nyilatkozta Franziska Roesner, a Washingtoni Egyetem professzora. Mindkét felfedezés egy márciusi, a Zenity Labs által közzétett jelentést követett, amely a Perplexity Comet böngészőjében azonosított PleaseFix nevű sérülékenységeket. Ezek promptinjekcióval tették lehetővé a hitelesítőadatok ellopását, és a fejlesztő a kiadás előtt kijavította azokat.

Kapcsolódó: AI-felismerés zero-day ellen