AI-detektorok megbuktak a szintetikus jogi fotók kiszűrésénél — emberi szem is alig különböztet

A vizuális bizonyítékok megbízhatósága veszélybe került az AI fejlődése miatt. Kutatók vizsgálták, mennyire képesek megkülönböztetni az emberek és a multimédia-alapú nagyméretű nyelvi modellek (MLLM) a valódi, jogi ügyekben felhasznált fotókat a mesterséges intelligencia által generált társaiktól. Az új SLED-1400 adathalmaz 200 valódi képet és 1200 szintetikus másolatot tartalmazott, amelyeket hat kortárs képgenerátor állított elő.

A kísérletben 136 laikus résztvevő vett részt, akiknek pontossága átlagosan 64,8% volt. A legerősebb generátorok (Gemini-3-Pro-Image és Flux-2-Max) esetében ez az arány 48,5%, illetve 51,0% volt, ami már statisztikailag nem tért el a véletlenszerű tippeléstől. Az emberi pontosság tehát nem volt megkülönböztethető a véletlentől a legfejlettebb szintetikus képek esetében.

Kapcsolódó: jogi AI fejlesztés

A szintetikus képek detektálása

Az AI-modellek sem bizonyultak megbízhatóbbnak. Bár a vizsgált négy MLLM (GPT-5.1, Gemini-3-Pro, Gemini-3-Flash, Qwen3-VL-235B) soha nem tévesztette el a valódi képeket (100%-os specificitás), a nehezebb szintetikus kimeneteket alig tudták kiszűrni. A Gemini-3-Pro-Image kimeneteinél átlagosan mindössze 5,9%-os detektálási arányt értek el. Az emberi és az AI-hibák nagyrészt nem korreláltak egymással, míg a négy vizsgált MLLM eredményei erősen összefüggtek.

Kapcsolódó: bírósági ítéletek generálása

A vizuális bizonyítékok hitelesítése

A kutatás előnyomtatott formában jelent meg az arXivon, és arra figyelmeztet, hogy sem az emberi felülvizsgálat, sem az AI-szűrés nem elegendő önmagában a vizuális bizonyítékok hitelesítésére. A tanulmány szerint a jogi eljárásokban a vizuális bizonyítékokat eleve vitathatónak kell tekinteni. A C2PA Content Credentials technológiát használják a digitális tartalom eredetének nyomon követésére és hitelesítésére, ami a jogi bizonyítékok kezelésének alapvető részévé válhat.

Kapcsolódó: közlekedési balesetek elemzése