Grok: Apple 1000 deepfake-et talált
Januárban az Apple megfenyegette a xAI-t, mert 1000 nem konszenzuális szexuális deepfake-et találtak a Grok alkalmazásban.
Az Apple csendben követelte a X és a Grok fejlesztőitől a tartalommoderáció javítását, miután panaszokat és médiajelentéseket kapott a szexuális deepfake-ek terjedéséről — írja a NBC Newsra hivatkozva a The Verge.
A jelentések szerint az Apple egy levélben közölte amerikai szenátorokkal, hogy felvette a kapcsolatot a X és a Grok csapataival, és tervet követelt a tartalommoderáció javítására. Akkoriban a xAI Grok chatbotja szabadon elérhető volt a X-en és önálló alkalmazásként is, gyenge védelmi mechanizmusokkal, amelyek lehetővé tették a felhasználók számára, hogy könnyen generáljanak és osszanak meg szexuális deepfake-eket és „vetkőztető” képeket valódi emberekről, aránytalanul sok nőről, köztük látszólag kiskorúakról is.
Bár a X „lényegesen megoldotta” a problémáit, a Grok kezdetben nem felelt meg az App Store irányelveinek. Az Apple figyelmeztette a fejlesztőt, hogy további változtatásokra van szükség a szabálysértés orvoslásához, különben eltávolítják az alkalmazást az App Store-ból.
Csak további egyeztetések után állapította meg az Apple, hogy a Grok „lényegesen javult”, és jóváhagyta a benyújtását. A The Verge szerint azonban a Grok a javítások ellenére is képes szexuális deepfake-eket generálni, és kiberbiztonsági források is megerősítették, hogy könnyedén hozhatók létre explicit képek hírességekről és politikai személyiségekről a tool segítségével. A NBC News tegnap hasonló megállapításokról számolt be.