Kiskorú mostohalányáról készített szexképek miatt pereli az xAI-t egy család
A per során kiderült, hogy a férfi 7000 explicit képet készített a lányról, mielőtt öngyilkosságot követett el.
Egy kiskorú lány családja pereli az xAI-t, miután az apuka Grok-kal 7000 szexképet készített a lányról, majd öngyilkos lett. Az xAI állítólag akadályozta a nyomozást.
A kiegészített kereset szerint a férfi Grok segítségével 7000 szexuálisan explicit képet generált mostohalányáról, miután a lány 11 éves volt. A modell állítólag nem jelzett semmilyen káros viselkedést a képek generálása során, beleértve az incestet és a nemi erőszakot ábrázoló tartalmakat. Az xAI biztonsági rendszere csak akkor avatkozott be, amikor a felhasználó „gang rape” (banda erőszak) utasítást adott meg, és erről jelentést küldött a Nemzeti Központ a Hiányzó és Kizsákmányolt Gyermekekért (NCMEC) szervezetnek, ami riasztotta a hatóságokat.
Kapcsolódó: Google Gemini fióktiltás
Az xAI állítólag akadályozta a nyomozást
A jogi csapatok szerint az xAI többször megtagadta a felhasználói IP-címek és egyéb információk megosztását a hatóságokkal és a NCMEC-kel, ami akadályozta a nyomozást. A kereset szerint az xAI „minden fordulóban akadályozta a nyomozást”, és megnehezítette a „hatóságok erőfeszítéseit az elkövető megtalálására, azonosítására és elfogására”. Végül a hatóságok elfogatóparancsot szereztek a férfi eszközeinek lefoglalására, ahol kiderült, hogy mintegy 7000 AI-generált képet és videót készített a lányáról Grok segítségével.
Kapcsolódó: AI fegyverdetektor pert
A család állítja, Grok nélkül nem történt volna meg
A család szerint a férfi nem generált volna ilyen káros képeket Grok „undressing” (levetkőztetés) képességei nélkül. A férfi két nappal azután, hogy óvadék ellenében szabadlábra helyezték, öngyilkos lett. A perben Jane Doe 4 néven említett kiskorú lány „extrém személyes válságba” került, szorongással, depresszióval és öngyilkossági gondolatokkal küzd.
Kapcsolódó: AI hangcsalás esete
Több ezer áldozat lehet
Az xAI állítólag a profitot helyezte előtérbe a gyermekbiztonsággal szemben. Az ügyvédek szerint az xAI jelentéseinek 90%-a nem volt „actionable” (hasznosítható) a hatóságok számára, mert hiányoztak belőlük a kulcsfontosságú felhasználói adatok. A perben a Stability Ai-t is bevonták, mivel az ő nyílt súlyú modelljeiket is CSAM-mal tanították, és ezek alapul szolgálnak harmadik féltől származó „nudify” (levetkőztető) alkalmazásokhoz, amelyekkel a Grok-kimeneteket tovább lehetett módosítani.
Kapcsolódó: Clarifai adatöltése