Új metrika méri az AI-ügynökök feltárási és kiaknázási hibáit
A nyelvi modell (LLM) alapú ügynökök egyre gyakrabban kapnak összetett, nyílt végű döntéshozatali feladatokat, például AI-kódolásban vagy fizikai AI-rendszerekben.
Az AI-ügynökök feltárási és kiaknázási hibái mostantól mérhetők, ami áttörést jelent a mesterséges intelligencia fejlesztésében — írja az ArXiv AI egy új kutatásban.
A kutatók olyan kontrollálható környezeteket terveztek, amelyeket gyakorlati, beágyazott AI-forgatókönyvek inspiráltak. Ezek a környezetek részlegesen megfigyelhető 2D rácstérképekből és ismeretlen feladat-DAG-okból (Directed Acyclic Graph) állnak. A térképgenerálás programozottan állítható, hogy a feltárási vagy kiaknázási nehézséget hangsúlyozza.
A feltárás és kiaknázás közötti finom egyensúly
A házirendtől független értékelés lehetővé tétele érdekében egy új metrikát is kidolgoztak. Ez a metrika az ügynökök cselekedeteiből számszerűsíti a feltárási és kiaknázási hibákat. A kutatók számos élvonalbeli LLM-ügynököt értékeltek, és megállapították, hogy még a legmodernebb modellek is hibákat vétenek ebben a kritikus egyensúlyozásban.
A hibák szisztematikus azonosítása
A feltárás és kiaknázás közötti kompromisszum régóta ismert probléma a megerősítéses tanulásban, különösen a többkarú bandita problémák és a véges állapotterű Markov döntési folyamatok esetében. Az új metrika most lehetővé teszi ezen hibák szisztematikus azonosítását és számszerűsítését anélkül, hogy hozzáférnénk az ügynök belső működési elveihez, ami eddig komoly kihívást jelentett. A kutatók munkája az ArXiv AI-n keresztül elérhető 2024. március 15-től.