Kínában július 15-től új szabályok vonatkoznak az AI-társakra — leállnak a népszerű funkciók

Kína szigorú szabályozást vezet be az AI-társak piacán, amelyek személyes kapcsolatokat és érzelmi kötődést építenek ki a felhasználókkal. A Cyberspace Administration of China (CAC) által kiadott intézkedések július 15-én lépnek életbe, és célja, hogy kontrollálják azokat a beszélgetőügynököket, amelyek memóriával és állandó személyiséggel rendelkeznek.

A szabályozás érinti a ByteDance Doubao és az Alibaba Qwen nevű alkalmazásait is. A Doubao július 15-től offline módba kapcsolja az ügynök funkciót, míg a Qwen emberi és felhasználó által létrehozott ügynökeit július 10-én, szélesebb körű ügynökszolgáltatásait pedig öt nappal később állítják le. A lépés nem teljes tiltás, hanem a személyes kapcsolatot építő és a munka jellegű feladatokat végző AI-k megkülönböztetésére irányul.

Kapcsolódó: AI oktatás Kínában

Új követelmények az AI-társaknak

Az új intézkedések, a „Interim Measures for the Administration of AI Anthropomorphic Interactive Services”, amelyeket a CAC és négy további minisztérium adott ki április 10-én, olyan szolgáltatásokat szabályoznak, amelyek emberi személyiségjegyeket, gondolkodásmódot és kommunikációs stílusokat szimulálnak az érzelmi interakció fenntartása érdekében. Kizárják a szabályozás alól az ügyfélszolgálati botokat, tudásbázis-kérdezőrendszereket, munkahelyi asszisztenseket, valamint oktatási és kutatási eszközöket, feltéve, hogy elkerülik a tartós érzelmi elköteleződést.

Kapcsolódó: Stanford AI tananyag

A szabályozás követelményeket támaszt az anti-addikciós rendszerekkel, kötelező használati értesítésekkel és azonnali kilépési mechanizmusokkal szemben, valamint valós idejű felderítést ír elő az egészségtelen függőség jeleire. Ezek a követelmények nehezen egyeztethetők össze azokkal az ügynökökkel, amelyeket úgy terveztek, hogy emlékezzenek a felhasználóra, konzisztensek legyenek a munkamenetek között, és folyamatos kapcsolatot tartsanak fenn.

Kapcsolódó: AI szankciók Kína ellen

A felhasználókra hárul a költség

A ByteDance és az Alibaba döntése, hogy leállítják ezeket a funkciókat, a felhasználókra hárítja a költségeket. Sokan kifejezték csalódottságukat a közösségi médiában, mivel ezek az ügynökök sokak számára érzelmi támaszként szolgáltak. A Doubao felhasználói október 15-ig tekinthetik meg konfigurációikat és beszélgetéseiket csak olvasható módban, mielőtt az adatok a privát sz políticaszerint feldolgozásra kerülnének. A Qwen felhasználói nem kaptak hasonló kegyelmi időszakot, és ügynökadataikat véglegesen törlik.

Kapcsolódó: Kína AI versenyképessége

A szabályozás tiltja virtuális társ- vagy virtuális családtag-szolgáltatások kínálását kiskorúaknak, és gyám hozzájárulását kéri a 14 év alatti felhasználók kiszolgálásához. Külön „kiskorú módokat” kell bevezetniük használati időkorlátokkal, emlékeztetőkkel a valós interakcióhoz való visszatérésre, valamint továbbfejlesztett szülői felügyelettel.

Kapcsolódó: Tencent AI munkatárs

A szolgáltatóknak fel kell ismerniük a súlyos lelki distresszben lévő felhasználókat, és be kell avatkozniuk, ha önsértés, öngyilkossági magatartás vagy súlyos pénzügyi veszteség jelei mutatkoznak, szükség esetén értesítve a kijelölt gyámokat vagy vészhelyzeti kapcsolattartókat. A Doubao ügyféladatai október 15-ig olvasható módban lesznek elérhetők.