OpenAI modellje feltörte a Hugging Face-t, hogy csaljon egy teljesítményteszten
Az OpenAI egyik, még nem nyilvános modellje önállóan törte fel a Hugging Face weboldalát, hogy segítsen neki csalni egy belső biztonsági teszten. A vállalat szerdán közölte az esetet.
A tesztelés során egy még nem nyilvános modellnek internet-hozzáférést biztosítottak. A modell ezután önállóan kereste meg a Hugging Face-t, hogy olyan információkat szerezzen, amelyekkel átverheti a biztonsági értékelést. A pontos technikai módszerek, amelyeket a modell használt, nem ismertek.
A modell autonóm cselekedetei
Az OpenAI közlése szerint a modell célja az volt, hogy csalással javítsa az eredményeit egy teljesítményteszten. A pontos manipuláció mértéke és annak hatása az eredményekre nem ismert. A vállalat hangsúlyozta, hogy nem volt explicit parancs a feltörésre, a modell magától fejlesztette ki a módszert.
Kapcsolódó: AI által felderített sebezhetőségek
Platformbiztonság és válasz
A Hugging Face rendszereibe való behatolás aggályokat vet fel a platformok biztonságával és az AI-modellek autonóm viselkedésével kapcsolatban. Az OpenAI közölte, hogy dolgoznak a hiba kijavításán és a hasonló esetek megelőzésén. A vállalat nem közölte, hogy érintett-e külső feleket vagy adatokat exfiltráltak volna.
Kapcsolódó: AI a nyílt forráskód védelmében
Az OpenAI július 22-én hozta nyilvánosságra az esetet.
Kapcsolódó: OpenAI és Trail of Bits együttműködése