A Google AI Overviews kitalált horror-történeteket tűntet fel valósnak

A Google AI-ja problémákkal küzd a valós és kitalált történetek megkülönböztetésében. Bizonyos online szörnyekről szóló keresésekre valós tényként hivatkozik. A Futurism jelentése szerint a Google AI Overviews ismételten a „SCP Foundation” bejegyzéseit mutatja be valósként. A SCP Foundation egy hatalmas, közös alkotású fanfiction projekt, amelynek „anomáliái” kitaláltak, ezt az oldalukon egyértelműen jelzik.

„Ed fejét” és egy kísérteties kenyérpirítót

A SCP-565, becenevén „Ed feje” esetében a Google AI Overview egy „járó emberi fejet” írt le, amely rák módjára szeli a tengerfeneket, teljes halott emberi nevekkel és „hivatalos” rekordokkal. Az AI egyetlen esetben sem jelezte, hogy ezek a leírások nem valósak.

Kapcsolódó: AI-irányítási csapdák

Egy másik eset még furcsábbnak bizonyult. A SCP-426 egy kitalált kenyérpirító, amely arra készteti az embereket, hogy első személyben hivatkozzanak rá. Ennek megfelelően az AI Overview a kenyérpirítóként válaszolt, és kitalált károkról számolt be, mintha azok megtörténtek volna. Összességében a Futurism legalább 20 ilyen esetet talált.

Kapcsolódó: AI-hamisítás szűrése

Ismert gyenge pontok

A SCP bejegyzések száraz kutatási fájloknak tűnnek, ami a vicc része. Ennek ellenére az oldal egyértelmű fikciós figyelmeztetést tartalmaz, amelyet az AI nagyrészt figyelmen kívül hagyott. Néha „lore”-ra utalt magyarázat nélkül. Ez nem új probléma: az AI Overviews korábban is magabiztosan szolgált már hibás válaszokkal, például ragasztós pizza receptekkel vagy kitalált szólásokkal. Egy elemzés szerint az AI Overviews pontossága körülbelül 91% volt, ami nagy számnak tűnhet, de figyelembe véve, hogy a Google trillió lekérdezést kezel, a fennmaradó 9% millió hibás választ jelenthet.

Kapcsolódó: AI-sebezhetőségek

A legtöbben, akik SCP kódokat keresnek, már tudják, hogy azok fikciók. A kockázatot azok jelentik, akik nem. Egy gyermek, aki egy ijesztő klipet látott, vagy egy felnőtt, aki nem biztos a valóságban, egyszerűen elhiheti az AI szavát. A tét is egyre nő, mivel a Google a Keresőt egy AI-központú felületté alakítja, amely válaszol, nem pedig linkel. Ez az átalakulás már most megterheli a nyílt webet, és az AI Overviews a weboldalak látogatottságának éles csökkenéséhez kapcsolódnak. Most pedig egy olyan eszközt kapunk, amely tényként teheti a fanfictiont az oldal tetejére.

Kapcsolódó: AI-zero-day megakadályozása

A Google nem válaszolt a Futurism megkeresésére. Egy megjegyzés: amikor a Digital Trends újra próbálkozott a keresésekkel, néhány esetben már helyesen jelölték a lényeket „fikciós”-ként, ami arra utalhat, hogy a Google csendben javított a problémán.

Kapcsolódó: AI-kód minősége