Olaszország precedenst teremt: 120 napos határidő az AI-hallucinációk átlátható kezelésére
A kötelezettségvállalások konkrét iránymutatást adnak arra vonatkozóan, milyen „megfelelő” tájékoztatást kell nyújtani a felhasználóknak az AI-rendszerek pontatlanságairól.
Lezárta vizsgálatait az olasz versenyhivatal (AGCM) három AI chatbot szolgáltató ellen, miután a DeepSeek, a Mistral AI és a Nova AI üzemeltetője, a Scaleup Yazilim kötelezettséget vállalt a „hallucinációk”, vagyis a téves információk átláthatóbb kezelésére — írja a TNW.
Az AGCM azért indított vizsgálatot, mert a chatbotok nem tájékoztatták egyértelműen, azonnal és érthetően a felhasználókat arról, hogy AI-rendszereik pontatlan, félrevezető vagy teljesen kitalált tartalmat generálhatnak. Ez a mulasztás az olasz fogyasztóvédelmi törvény (Articles 20, 21, 22) szerint potenciálisan tisztességtelen kereskedelmi gyakorlatot jelentett, mivel megakadályozta a felhasználókat abban, hogy megalapozott döntéseket hozzanak a szolgáltatások használatáról, különösen olyan kockázatos területeken, mint az egészségügy, a pénzügy és a jog.
A cégeknek 120 napjuk van a kötelezettségek teljesítésére. Ennek elmulasztása esetén akár 11,6 millió dolláros bírsággal is szembesülhetnek, és az ügyeket újra megnyithatja az AGCM.
Az átláthatóság új korszaka
A DeepSeek a legszélesebb körű csomagot vállalta: kiemelkedő figyelmeztetéseket helyez el a hallucinációk kockázatáról a chatfelületein és weboldalán olasz nyelven, teljes olasz fordítást biztosít a releváns tájékoztatásokról, belső compliance képzéseket tart, és műszaki kötelezettséget vállal a hallucinációk arányának csökkentésére. A Mistral Le Chat esetében a kötelezettségek négy fő területre terjednek ki: chatben megjelenő figyelmeztetések, a szolgáltatási feltételek megerősítése és olasz nyelvű lokalizációja, a feltételek jobb elérhetősége a felhasználói felületen, valamint a weboldal és a súgóközpont teljes olasz fordítása.
A Nova AI két átláthatósági hiányosságot orvosol: hallucinációs figyelmeztetéseket ad a chatfelülethez, és egyértelművé teszi, hogy a szolgáltatás egy cross-platform aggregátor, amely több alapul szolgáló AI-modellhez (például ChatGPT, Gemini, Claude, DeepSeek) biztosít hozzáférést, nem pedig egyetlen saját AI-t használ.
A szabályozás hatása
Ez az első eset, hogy egy európai szabályozó hatóság kötelező, specifikus kötelezettségvállalásokat csikart ki AI-cégektől a hallucinációk nyilvánosságra hozatalával kapcsolatban, fogyasztóvédelmi kötelezettségként. Az AGCM döntése, a 31864-es számú határozat, precedenst teremt az AI-szabályozásban, különösen a fogyasztóvédelem és az átláthatóság terén.
Az AGCM 120 napos határidőt szabott a cégeknek a kötelezettségek teljesítésére, és az ügyeket 2024. júniusban fogja felülvizsgálni.