Elavult brit kormányzati adatokkal tévesztik meg a felhasználókat a Google AI-összefoglalói

A Google AI-összefoglalói hamis információkat szolgáltatnak a brit kormányzati weboldalakról, mivel elavult GOV.UK oldalakról merítenek adatokat — írja a The Register.

A problémát Giorgio Di Tunno, a Department for Business and Trade (DBT) vezető tartalomtervezője és Neil Starr, a tartalomkezelési vezető egy GOV.UK blogbejegyzésben fejtette ki. Szerintük az elhanyagolt, régi oldalak, amelyeket korábban alig néztek meg, most aktívan felhasználódnak a generatív AI-összefoglalókban a felhasználói lekérdezések megválaszolására.

Példaként említik, hogy egy brit jótékonysági szervezet alapításának költségeire vonatkozó Google-keresés tévesen 13 fontot jelzett online vagy 40 fontot postai úton a Companies House bejegyzésére, holott a tényleges költség 100 font online vagy 124 font postai úton.

Az információáramlás szennyeződése

A DBT a probléma kezelésére átvizsgálta azokat a GOV.UK oldalakat, amelyeket öt éve nem frissítettek, kevesebb mint 11 megtekintést kaptak ez idő alatt, és amelyeknek aktuális információkat kellett volna tartalmazniuk. Összesen 150 ilyen oldalt találtak, amelyeket azóta átirányítottak archivált másolatokra, aktuális GOV.UK oldalakra vagy releváns jogszabályokra.

A bizalom helyreállítása

A minisztérium emellett hathavonta felülvizsgálati ciklusokat is tesztel, amelyek során az oldalak alján megjelenik az utolsó és a következő felülvizsgálat dátuma. Di Tunno és Starr szerint ez a megoldás „rendkívül jól” működik a felhasználók körében, mivel növeli az anyagokba vetett bizalmukat.

Mark Edwards, a Department for Education tervezési vezetője arra figyelmeztetett, hogy az AI-összefoglalók gyakran félrevezetően szűk vagy hiányos válaszokat adnak. A tartalomkészítőknek mostantól azzal a tudattal kell tervezniük, hogy amit közzétesznek, azt olyan rendszerek atomizálják, összegzik vagy újraértelmezik, amelyeket nem tudnak kontrollálni. A DBT a probléma megoldására 2024. márciusig tervezett intézkedéseket.