Credo: Új keretrendszerrel tennék átláthatóbbá az AI-ügynököket
A keretrendszer a szemantikus állapotot hiedelmekként (beliefs) kezeli, a viselkedést pedig ezekre épülő deklaratív szabályokkal (policies) szabályozza.
Új keretrendszert mutatott be az ArXiv AI, amely a Credo nevet kapta, és célja a LLM-alapú AI-ügynökök működésének átláthatóbbá és ellenőrizhetőbbé tétele — írja az ArXiv AI.
Az ügynökalapú AI-rendszerek egyre elterjedtebbek a folyamatosan változó környezetben, ahol hosszú távú, állapottartó döntéshozatalra van szükség. Ezekben a rendszerekben a helyes működés nemcsak az egyes modellhívások kimenetétől függ, hanem attól is, hogyan alkalmazkodnak az új információkhoz vagy a korábbi következtetések felülvizsgálatához.
A szemantikus áttörés kapuja
A jelenlegi keretrendszerek jellemzően imperatív vezérlőhurkokra, átmeneti memóriára és promptba ágyazott logikára támaszkodnak. Ez a megközelítés azonban átláthatatlanná, sérülékennyé és nehezen ellenőrizhetővé teszi az ügynökök viselkedését.
A Credo új útja
A Credo ezzel szemben adatbázis-alapú szemantikus vezérlősíkot használ, amely adaptív, auditálható és komponálható végrehajtást tesz lehetővé. A keretrendszer a döntéshozatal irányítására is alkalmas, például a modell kiválasztására, az információk lekérdezésére vagy a hibajavító újra végrehajtásra.
A Credo keretrendszer az ArXiv AI-n keresztül érhető el 2024. március elsejétől.