Meta AI chatbot értesíti a szülőket, ha tinédzser öngyilkosságról beszél vele

A Meta AI chatbot mostantól értesíti a szülőket, ha egy tinédzser öngyilkosságról vagy önkárosításról beszél vele. A vállalat csütörtöki blogbejegyzésében ismertette a változást. Az értesítések azoknak a szülőknek érkeznek, akik az Instagram felügyeleti eszközeit használják. A funkció már elérhető az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában, és év végéig a világ többi részén is bevezetik — közölte a TechCrunch.

A riasztási rendszer működése

A Meta elmondása szerint egy dedikált AI-rendszert építettek ehhez. Ez a rendszer felismeri azokat a csevegéseket, ahol a tinédzser egyértelműen utal magára károsító szándékra. Minden jelzett csevegést emberi felülvizsgálat követ, mielőtt az értesítés kiküldésre kerülne. Ha a szándék nem egyértemu, a Meta szerint ovatosan fognak eljarni, es meg igy is ertesitik a szulot. Az ertesites nem tartalmazza majd az eredeti uzenetet, helyette a szulok egy ertesitest kapnak, valamint szakertok altal irt tippeket arrol, hogyan tudjak felvetni a temat — irja a CNET.

Kapcsolódó: Meta chatbot tesztelés

Vészhelyzeti értesítések és szigorúbb beállítások

A Meta emellett egy olyan funkciót is fejleszt, amely képes riasztani a sürgősségi szolgálatokat. Ez akkor aktiválódna, ha egy csevegés arra utal, hogy valaki, felnőtt vagy tinédzser, közvetlen veszélyben van. A Meta mar most is tesz ilyen bejelentéseket a Facebookon es Instagramon, es tavaly tobb mint 19 000 ilyen esetet jelentettek. A szigorübb „Limited Content” beállítá́s most már a Meta AI-ra is vonatkozik. Bekapcsolt állapotban a chatbot szelesebb körében elutasítja a kéréseket. A Meta AI már eléve úgy van betanítva, hogy elkerülje a tinédzsérekkel folytatott szexuális, romantikus vagy alkoholhoz kapcsolódó csevegéseket.

Kapcsolódó: Instagram fiókok feltörése

A Meta szerint a fejlesztés során több mint 75 klínikai szakértővel konzultáltak. Larry Magid, a ConnectSafely nonprofit szervezet képviselője támogatta az eljárást, mint a tinédzser magánélete és a szülői tudatosság közötti egyensúlyt. Mások óvatosan fogadták a hírt. Brendan Bouffard, a Fairplay ügyvédje szerint a változás „lépés a helyes irányba, de… szkepticizmussal kell fogadni”. Dr. John Ackerman klinikai szakértő hozzátette, hogy az ilyen riasztások „szólamokká” válhatnak, hacsak nem könnyen használhatók és nem vezetnek valódi cselekvéshez. A nyomás jogi és etikai jellegű is. A Meta ebben az évben két, gyermekbiztonsággal és a közösségi médiafüggőséggel kapcsolatos pert is elveszített, mindkettőt megfellebbezik.

Kapcsolódó: FLARE-AI platform indulása

Az OpenAI is bevezetett saját tinédzservédelmi funkciókat, a „Trusted Contact” funkciótól kezdve a szünetemlékeztetőkig. A lépés az AI biztonságát érintő szélesebb körű vizsgálatok közepette történik. Ugyanezen a napon jelent meg a Meta Felügyelő Testületének egy tanulmánya is, amely szerint a Meta, az Anthropic és az OpenAI nagy modelljei gyakrabban utasították el a kritikus vezetőkről szóló negatív véleményeket, mint a megengedőkről — jelentette az Associated Press. Példák a kínai és szaúdi helyzetre is szóltak. Ez azt a kockázatot hordozza magában, hogy „a restriktív kormányok hosszú karja átterjed a határokon” — áll a jelentésben. Eközben a Google elutasított egy Common Sense Media jelentést, amely gyermekekre nézve „elfogadhatatlan kockázatúnak” minősítette az AI Searchjét, közölte a Digital Trends. A Google szerint a tesztek nem reprodukálható, mesterséges kereséseket használtak. Mindez a figyelem középpontjában álló szabályozási hullám része. Kanada szigorította a chatbotokra és a kiskorúakra vonatkozó szabályokat, az Ofcom pedig vizsgálja a TikTokot. Ausztrália bevezette a tinédzserekre vonatkozó közösségi média-korlátozásokat, Kína pedig fellépett az AI-komponensekkel szemben.

Kapcsolódó: AI-hangmásolásos csalás

Ez egy érzékeny téma. Az Egyesült Államokban hívja vagy küldje el SMS-ben a 988-at. Máshol helyi segélyvonalat talál a findahelpline.com oldalon.

Kapcsolódó: Meta AI-kiadások és perek