Dor Zvi: 5000 AI-alkalmazás

Több ezer, mesterséges intelligencia által generált webalkalmazás tesz közzé rendkívül érzékeny vállalati és személyes adatokat a nyílt weben — írja a WIRED. A RedAccess kiberbiztonsági cég kutatói több mint 5000 ilyen alkalmazást azonosítottak, amelyek gyakorlatilag semmilyen biztonsági vagy hitelesítési mechanizmussal nem rendelkeztek.

Dor Zvi, a RedAccess társalapítója és csapata a Lovable, Replit, Base44 és Netlify AI szoftverfejlesztő eszközökkel készült webalkalmazásokat elemezte. A kutatók szerint az alkalmazások mintegy 40%-az érzékeny adatokat, például orvosi információkat, pénzügyi adatokat, vállalati prezentációkat és stratégiai dokumentumokat, valamint ügyfél-chatbot beszélgetések részletes naplóit tette közzé.

Keresőmotorokkal is könnyen elérhetők

A sebezhető alkalmazásokat meglepően könnyű volt megtalálni, mivel az AI-cégek saját domainjein futottak. A kutatók egyszerű Google és Bing keresésekkel azonosították azokat az appokat, amelyek nyilvánosan hozzáférhetőek voltak. Zvi szerint a 5000 AI-kódolt alkalmazás közül közel 2000 tartalmazott privát adatokat, például kórházi munkafeladatokat orvosok személyes adataival, cégek hirdetésvásárlási információit, piaci stratégiai prezentációkat és ügyfél-chatbot beszélgetések teljes naplóit.

Zvi szerint egyes esetekben az expozált alkalmazások lehetővé tették volna számára, hogy adminisztratív jogosultságokat szerezzen rendszerek felett, sőt más adminisztrátorokat is eltávolítson. A Lovable esetében számos adathalász oldalt is talált, amelyek nagyvállalatokat (például Bank of America, Costco, FedEx, Trader Joe’s, McDonald’s) imitáltak, és az AI kódoló eszközzel készültek.

A WIRED megkeresésére a Netlify nem válaszolt, míg a Lovable, Replit és Base44 vitatta a RedAccess állításait, de nem tagadta az adatszivárgás tényét. Amjad Masad, a Replit vezérigazgatója szerint a felhasználók választhatják meg, hogy az alkalmazások nyilvánosak vagy privátak legyenek, és a nyilvános appok internetes elérhetősége elvárt viselkedés. A Lovable közleményében jelezte, hogy komolyan veszi a jelentéseket, míg a Base44 anyavállalata, a Wix szerint a felhasználók felelőssége az alkalmazások biztonsági beállításainak konfigurálása.

A RedAccess szerint a Base44 felhasználói közül többen is megköszönték a kutatóknak, hogy figyelmeztették őket az adatszivárgásra, és utána biztosították vagy offline állapotba helyezték az érintett alkalmazásokat. Joel Margolis biztonsági kutató, aki korábban egy AI chatjáték 50 000 gyermekkel folytatott beszélgetését találta meg nyilvánosan, megerősítette, hogy az AI-val készült webalkalmazások adatkitettségi problémája valós. A RedAccess által talált 5000 alkalmazás csak azok voltak, amelyek az AI-eszközök saját domainjein futottak, de valószínűleg több ezer további alkalmazás van a felhasználók saját domainjein, ami az Amazon S3 tárolók korábbi adatkitettségi problémájához hasonlítható.