Az ITU 2024-es fókuszcsoportja az AI-ügynökök szabványozásáért

Az ENSZ digitális ügynöksége, a Nemzetközi Távközlési Unió (ITU) kezdeményezést indított annak érdekében, hogy a mesterséges intelligencia (AI) ügynökök fejlődését lépést tudja tartani a bizalom kiépítésének képessége. A szervezet célja, hogy a jövőben az AI-rendszerek azonosíthatóak, felelősségre vonhatóak és érdemi emberi felügyelet alatt működjenek.

Az ITU a genfi AI for Good Summiton jelentette be az új kezdeményezést, amelynek keretében egy szakértői fókuszcsoport dolgozza ki a javaslatokat. A csoport feladata lesz olyan keretrendszerek kidolgozása, amelyek biztosítják az AI-ügynökök felismerhetőségét, megbízhatóságát és elszámoltathatóságát. Az aggodalom hátterében az áll, hogy az önállóan működő AI-ügynökök, amelyek képesek üzleti folyamatokat kezelni, akár emberek helyett is döntéseket hozhatnak, és azonosíthatják magukat. Az ITU szerint a megosztott szabályok hiánya rendszerszintű kockázatot jelent.

Kapcsolódó: globális AI-ellenőrzés

Széttagolt szabályozás és iparági kihívások

Az iparágban számos vállalat küzd azzal, hogy nyilvántartsa, hány AI-ügynököt futtat, és milyen engedélyekkel rendelkeznek. Az ITU célja, hogy nemzetközi szabványokkal orvosolja ezt a problémát, mivel a különböző joghatóságok eltérő, gyakran összeegyeztethetetlen szabályokat alkotnak a technológiára. Kína már kiadott nemzeti szabványokat az AI-ügynökök azonosítására és interakcióira, míg más országok más megközelítéseket alkalmaznak. A fókuszcsoport várhatóan technikai ajánlásokat fogalmaz meg, nem pedig kötelező érvényű előírásokat.

Kapcsolódó: AI környezeti költségek

A szabványosítás lassú folyamata

A fókuszcsoport első üléseit Párizsban, majd Genfben tartják. A szabványok kidolgozása időigényes folyamat, ami kihívást jelenthet az AI-ügynökök gyors fejlődésével szemben. Az ITU befolyása nagymértékben függ attól, hogy az ipar és a kormányok önkéntesen elfogadják-e a javasolt szabványokat. Azonban a szabványosítás elengedhetetlen az interoperabilitáshoz és az AI-ügynökök közötti, valamint az emberi felhasználókkal való biztonságos tranzakciókhoz.

Kapcsolódó: kormányzati hozzáférés AI-hoz

Az ITU, amely korábban az internetszolgáltatások és a telekommunikációs hálózatok szabványosításában játszott kulcsszerepet, most az AI-ügynökök területén próbálja meg hasonló szerepet betölteni. Ez az első lépés egy olyan problémára, amelyet az iparág eddig halogatott, és célja, hogy az asztalnál ültesse a szereplőket, mielőtt a rendszerek maguk diktálnák a feltételeket.

Kapcsolódó: nemzetbiztonsági AI-tesztelés