GraphBit: Gráfalapú rendszerrel szünteti meg a LLM-ek hibás útválasztását
A rendszer a nagyméretű nyelvi modellek (LLM) által vezérelt munkafolyamatokban gyakori hallucinált útválasztást és végtelen ciklusokat előzi meg, növelve a megbízhatóságot.
Új, motorvezérelt keretrendszert mutatott be az ArXiv-en publikált tanulmány, amely GraphBit néven determinisztikus, irányított aciklikus gráf (DAG) formájában definiálja a munkafolyamatokat — írja az ArXiv AI.
A GraphBit ügynökei típusos függvényként működnek, míg egy Rust-alapú motor irányítja az útválasztást, az állapotátmeneteket és az eszközök meghívását. Ez a megközelítés biztosítja a reprodukálhatóságot és az ellenőrizhetőséget, ellentétben a prompt-vezérelt rendszerekkel, amelyek gyakran szenvednek a hibás útválasztástól és a végtelen ciklusoktól.
A stabilitás alapja
A GraphBit motorja támogatja a párhuzamos ágak végrehajtását, a strukturált állapotpredikátumokon alapuló feltételes vezérlést és a konfigurálható hibakezelést. A rendszer háromszintű memóriastruktúrával rendelkezik: efemer munkaterülettel, strukturált állapottal és külső csatlakozókkal.
Összehasonlítás a hagyományos rendszerekkel
A GraphBit ígérete szerint a GAIA teljesítményteszt feladatokon is stabilabb és megbízhatóbb teljesítményt nyújt, mint a hagyományos, prompt-alapú LLM-ügynök rendszerek. A Microsoft és a ComposioHQ is hasonló gráfalapú megközelítésekkel kísérletezik, hogy javítsák az AI-ügynökök megbízhatóságát és hatékonyságát a komplex munkafolyamatokban, 2024-ben várható további eredmények.