Bristoli rendőrség hibás bűnmegelőző modelleket használ
A Think Family Database közel félmillió bristoliai lakos adatait tartalmazza, köztük egészségügyi és szociális információkat — a rendszerben legalább 23 különböző bűnmegelőző modellt fejlesztettek ki.
2016-ban indította a Bristol City Council és az Avon and Somerset Police a Think Family Database‑t, amely közel félmillió helyi lakos adatait gyűjti, többek között rendőrségi jelentéseket, lakhatási státuszt, mentális egészségügyi feljegyzéseket és szabad iskolai étkezési támogatást — írja a WIRED.
A prediktív modellek sokszínűsége
A rendszerben legalább 23 különböző prediktív modellt fejlesztettek, amelyek a betörés, a bírósági megjelenés elmulasztása, a személyes eltűnés és a családon belüli erőszak áldozatává válás kockázatát becsülik. A modelljeik a Think Family Database‑ben tárolt adatokra épülnek, és a környék legveszélyesebb gyanúsítottjait egy "league table"‑ben rangsorolják, amelyhez a körülbelül 300 000 főt tartalmazó Offender Management App is kapcsolódik — a WIRED szerint.
Kapcsolódó: AI sebezhetőségek
Két modell elvetése a bizalmatlanság miatt
Két kockázati modellt csendben elvetettek, miután a Bristol City Council munkatársai már nem bíztak bennük. A döntés a dokumentumok szerint a modell‑eredmények megbízhatóságának hiányát tükrözte, és a rendőrség ezt követően leállította a használatukat — a WIRED közli.
Kapcsolódó: AI-ügynökök bűnözése
Független elemző több mint 36 000 modell‑teljesítmény‑pontot vizsgált, és a legtöbb esetben „genuinely poor predictive performance” mutatott, ami azt jelenti, hogy a modellek gyakran rosszul becsülték a kockázatot — a WIRED szerint.
Kapcsolódó: AI a pénzmosásban
Átláthatósági hiányra figyelmeztettek a kormányzati ellenőrök és független felülvizsgálók, akik szerint a rendszer aláázhatja a közbizalmat. A rendőrség eleinte megtagadta John Pegram, a helyi adatvédelmi csoport vezetőjének a személyes adatok felhasználásával kapcsolatos kérését, csak később erősítette meg, hogy ő is szerepel az Offender Management App‑ban — a WIRED közölte.
Kapcsolódó: AI hamis narratívákban
Az AI‑eszközök széles körű bevezetését Andy Marsh, a College of Policing vezérigazgatója, a jelenleg telepített körülbelül 100 AI‑eszköz átvizsgálásával támogatja, és azt állítja, hogy a hatékony AI‑t „injekcióként, mint heroin” kell bevezetni a brit rendőrségi munkába — a WIRED idézi.
Kapcsolódó: AI offenzív növekedése