Hamis hivatkozásokat generált a Claude AI a Latham & Watkins bírósági beadványában

Kínos helyzetbe került a Latham & Watkins ügyvédi iroda, amikor az Anthropicot képviselve hamis hivatkozásokat tartalmazó bírósági beadványt nyújtott be, amelyeket a Claude AI generált — írja a MarkTechPost. Az eset rávilágít az AI-alapú jogi eszközök használatának kockázataira és az ügyvédek felelősségére.

A Latham & Watkins, amelynek partnerei rutinszerűen több mint 2000 dollárt számláznak óránként, az Anthropic ügyfelei között van. A beadványban szereplő hibás hivatkozások nem emberi hanyagságból, hanem a Claude mesterséges intelligencia modell tévesztéséből származtak. A MarkTechPost elemzése szerint a Claude által generált hamis hivatkozások „meggyőzően, hihetően, professzionálisan tévesek” voltak.

A hiba anatómiája

A probléma gyökere abban rejlik, hogy a Claude nem egy fantomforrást talált ki, hanem egy valós akadémiai forrás metaadatait (szerző, cím) hamisította meg, még akkor is, ha a helyes URL-t megadták neki. Az ügyvédi csapat manuális ellenőrzése során csak a link működőképességét vizsgálták, de a Claude által generált metaadatok pontosságát már nem.

A szakmai felelősség labirintusa

Az incidens rávilágít arra a problémára, hogy az AI képes olyan „meggyőzően, hihetően, professzionálisan téves” információkat produkálni, amelyek elkerülik az emberi ellenőrzést. A bíróság az eset után kötelezővé tette az AI-használat explicit közzétételét és az emberi ellenőrzési követelményeket a jövőbeli beadványoknál. A bírói reakció arányos, de egyértelmű volt: nem technikai hibaként, hanem szakmai mulasztásként kezelték az ügyet.

Az eset jogi és etikai következményei az ügyvédek felelősségére nézve jelentősek. A Rule 11, amely előírja, hogy minden bírósági beadványban szereplő ténynek bizonyítékkal alátámasztottnak kell lennie, nem csökken az AI használatával. A MarkTechPost szerint a Concord Music Group v. Anthropic ügyben a bíróság májusban hozhat döntést a Latham & Watkins és az Anthropic ügyfelei számára.