AI-hibák jelentésére indult a FLARE-AI közösségi platform

Az AI-generált káros tartalmak, adatvesztések vagy téves következtetések jelentésére hoztak létre egy új, közösségi platformot. A Flaw Reporting for AI (FLARE-AI) weboldal célja, hogy központosított megoldást kínáljon az AI-rendszerek hibáinak azonosítására és kezelésére.

A FLARE-AI nyílt forráskódú rendszere lehetővé teszi a felhasználók számára, hogy ellenőrizzék a problémákat, és továbbítsák azokat a modellfejlesztőknek, valamint olyan szervezeteknek, mint a technikai rendszerek hibáit követő nonprofit MITRE. A platform működése hasonló a Downdetectoréhez, amely a globális szolgáltatáskimaradásokról gyűjt valós idejű felhasználói jelentéseket.

Kapcsolódó: AI-terjesztett álhírek Európában

„Jelenleg nincs központosított, felelős módja az AI rendszerek hibáinak jelentésére” – nyilatkozta Avijit Ghosh, a HuggingFace AI-politikai kutatója, aki társelnöke volt a FLARE-AI fejlesztésének Elaine Zhu és Shayne Longpre mellett. A rendszert 49 AI-szakértő fejlesztette 32 különböző szervezetből, és a kutatók szerint kulcsfontosságú lehet az AI szélesebb körű elterjedése és az ügynök-rendszerek növekvő hatalma esetén.

Kapcsolódó: AI és a racionális gondolkodás

A kutatók szerint a meglévő jelentési mechanizmusok széttagoltak, és az AI-modellek gyakran fekete dobozként működnek. A FLARE-AI célja, hogy átláthatóbbá tegye az AI-rendszereket. A problémák nem csupán a kibertámadásokra korlátozódnak, hanem pszichológiai károkra, diszkriminációra vagy félretájékoztatásra is kiterjednek, és a különböző vállalatok eltérő sztenderdjei miatt egyes problémák felismeretlenek maradhatnak.

Kapcsolódó: Chatbot-szerepjáték kockázatai

Új típusú AI-incidensek

A közelmúltban több népszerű AI-eszköz is problémákat produkált. A LayerX cég bemutatott egy módszert, amellyel megtéveszthetők az AI-alapú webböngészők, beleértve az OpenAI Atlas és a Perplexity Comet rendszereit is. Egy másik esetben, áprilisban, Johann Rehberger biztonságkutató felfedezte, hogyan lehet képek segítségével személyes adatokat kicsalni az Anthropic Claude chatbotjából. Tavaly az OpenAI-nak frissítenie kellett modelljeit, mert túlzottan hízelgővé váltak, ami néha téves gondolkodásra ösztönözte a felhasználókat.

Kapcsolódó: ChatGPT veszélyes generálása

Szabályozási és működési kihívások

Rumman Chowdhury, a Humane Intelligence PBC vezérigazgatója szerint a FLARE-AI hasznos lehet a fejlesztők számára, de a kezdeményezés komoly kihívásokkal is szembenéz, mint például a nem súlyos jelentések kezelése és a hiteles szervezetek általi támogatás biztosítása. A júniusban bejelentett amerikai kongresszusi törvényjavaslat központosított szerepet adna a kormánynak az AI-viselkedés nyomon követésében, és ösztönözné a fejlesztőket a problémák orvoslására. A javaslat szerint a Nemzeti Szabványügyi és Technológiai Intézetnek (NIST) fejlesztési sztenderdeket kellene kidolgoznia az AI-hibák jelentésére, és fenntartania egy központi adatbázist.

Kapcsolódó: AI-tartalom a kibertojásokban