Decentralizált keretrendszerrel erősítené az AI-ba vetett bizalmat a TRUST
A központosított AI-ellenőrzési rendszerek robusztussági, skálázhatósági, átláthatósági és adatvédelmi problémáira kínál megoldást az új, decentralizált megközelítés.
A nagyméretű érvelő modellek (LRM) és a többügynökös rendszerek (MAS) megbízható ellenőrzése kulcsfontosságú, különösen a nagy kockázatú területeken, ám a jelenlegi központosított módszerek korlátozottak — állítja az arXiv-on előnyomtatott formában megjelent tanulmány.
A kutatás szerint ezek a központosított rendszerek egyetlen hibapontot jelentenek, sebezhetőek a támadásokkal és torzításokkal szemben, ráadásul a komplex érvelési folyamatok miatt skálázhatósági problémákkal küzdenek. Az átláthatóság hiánya aláássa a bizalmat, a kitett érvelési nyomok pedig modelllopás kockázatát rejtik magukban.
A TRUST keretrendszer innovációi
Ezen problémák orvoslására vezették be a TRUST (Transparent, Robust, and Unified Services for Trustworthy AI) nevű decentralizált keretrendszert. A TRUST három fő innovációt kínál: Hierarchikus Irányított Aciklikus Gráfokat (HDAG) a Chain-of-Thought érvelés öt absztrakciós szintre bontására, ezzel párhuzamos, elosztott auditálást téve lehetővé.
Emellett a rendszer tartalmazza a DAAN protokollt is, amely a többügynökös interakciókat ok-okozati interakciós gráfokba (CIG) vetíti, lehetővé téve a determinisztikus gyökérok-attribúciót. Végül, egy többszintű konszenzus mechanizmust alkalmaz, amely számítási ellenőrzőket, LLM értékelőket és emberi szakértőket von be a folyamatba.
A TRUST célja, hogy növelje az AI-rendszerekbe vetett bizalmat és csökkentse a hibapontokat a decentralizált megközelítés révén. Az előnyomtatott tanulmány az arXiv:2604.27132v1 számon érhető el.