Új memóriakezelővel csökkenti drasztikusan a tokenfogyasztást a Nemzeti Szingapúri Egyetem

A hosszú távú feladatok megoldása komoly kihívást jelent az AI-ügynökök számára, mivel a kontextusablakok gyorsan megtelnek, és a lekérdezési folyamatok gyakran zajt hoznak a jel helyett. A Szingapúri Nemzeti Egyetem kutatói erre a problémára fejlesztették ki a MRAgent keretrendszert, amely elhagyja a statikus „lekérdezés-majd-gondolkodás” megközelítést. Ehelyett egy olyan mechanizmust használ, amely lehetővé teszi az ügynök számára, hogy a felhalmozódó bizonyítékok alapján dinamikusan építse ki memóriáját. Ez a többlépcsős memóriarekonstrukció integrálódik a nagy nyelvi modell (LLM) gondolkodási folyamatába. Bár nem ez az egyetlen ilyen keretrendszer, a MRAgent jelentősen csökkenti a tokenfogyasztást és a futási költségeket más ügynöki memóriakezelési módszerekhez képest — írja a VentureBeat.

A passzív lekérdezés korlátai hosszú távú feladatoknál

A klasszikus lekérdezési folyamatokban dokumentumokat vektoros kereséssel vagy grábfelépítéssel kérdeznek le, majd továbbítanak egy LLM-nek a feldolgozásra. Ez a passzív megközelítés azért nem működik hatékonyan, mert nem tudja kombinálni a gondolkodást a memóriahasználattal, ami három fő problémát vet fel: Ezek a rendszerek nem tudják módosítani a lekérdezési stratégiájukat gondolkodás közben. Ha egy ügynök lekér egy dokumentumot, és felfedez egy kulcsfontosságú hiányzó információt — például egy dátumot vagy személyt —, nincs lehetősége új lekérdezést indítani ezen a találaton alapulva. A rögzített hasonlósági pontszámok és az előre definiált grófexpanziók csak felszínes találatokat hoznak, amelyek irreleváns zajjal árasztják el az LLM kontextusablakát, rontva a feldolgozás minőségét. A jelenlegi rendszerek nagymértékben támaszkodnak előre felépített struktúrákra, mint például a top-k eredmények és a statikus relevanciaszabályok, ami korlátozza a rugalmasságot az előre nem látható, hosszú távú felhasználói interakciók skálázásához.

Kapcsolódó: memória-rendszer fejlesztése

Aktív memóriarekonstrukció a MRAgentben

A kutatók szerint e korlátok leküzdéséhez a fejlesztőknek egy „aktív és asszociatív rekonstrukciós folyamatra” kell áttérniük, amelyet a kognitív neurológia ihletett. Ebben a paradigmában a memóriafelidézés egymást követően történik, nem pedig egy statikus adatbázis passzív kiolvasásaként. A rendszer kis, specifikus kiindulópontokkal kezdődik a felhasználó kéréséből, mint például egy személy neve, egy cselekvés vagy egy helyszín. Ezek az elsődleges utalások kapcsolódó fogalmakra vagy kategóriákra mutatnak, nem pedig hatalmas szövegtömbökre. E metaadatok követésével az ügynök apránként gyűjt össze bizonyítékokat. Minden új információt felhasznál a következő lépés irányítására, amíg sikeresen össze nem állítja a teljes, pontos történetet. A MRAgent a memóriát nem statikus adatbázisként, hanem interaktív környezetként kezeli. Egy komplex lekérdezés feldolgozásakor az ügynök az alap LLM gondolkodási képességeit használja, hogy több lehetséges lekérdezési utat fedezzen fel egy strukturált memóriagráfon keresztül. Minden lépésnél az LLM értékeli a köztes bizonyítékokat, és iteratívan optimalizálja a keresést. Új keresési korlátokat következtet ki, a legjobb információval rendelkező utakat követi, és elveti az irreleváns ágakat. Ez lehetővé teszi a MRAgent számára, hogy mélyen elrejtett információkat tárjon fel anélkül, hogy az LLM kontextusát zajjal töltené meg.

Kapcsolódó: önfejlesztő memória

A Cue-Tag-Content mechanizmus

A kutatók a „Cue-Tag-Content” mechanizmust használják az adatbázis rendszerezésére, ami egy többrétegű asszociatív gráfon alapul, három csomóponttípussal: Cues: finom szemcsézettségű kulcsszavak, mint entitások vagy kontextuális attribútumok. Content: a tárolt memóriagegységek, amelyek több rétegre oszlanak, mint például epizodikus memória konkrét eseményekhez és szemantikus memória stabil tényekhez. Tags: szemantikai hidak, amelyek összefoglalják a specifikus Cues és a Content közötti relációs asszociációkat. Ez a struktúra egy hatékony, kétszakaszos lekérdezési folyamatot tesz lehetővé. Az LLM először a Cues-tól a lehetséges Tags-okig navigál. Mivel a Tags-ok explicit módon feltárják az adatok szemantikai kapcsolatait, az ügynök ezeket a rövid összefoglalókat értékeli relevanciájuk szempontjából. Az LLM azonosítja a legígéretesebb utakat, mielőtt a részletes, nagyméretű memóriatartalmakhoz férne hozzá. Például, ha egy felhasználó megkérdezi: „Hogyan használta fel Nate a pénznyereményt, amikor harmadszor nyerte meg a videójáték-versenyt?”, a MRAgent először a promptból kinyeri a kulcsfontosságú kiinduló jeleket, mint „Nate”, „videójáték-verseny” és „nyeremény”. Az ügynök ezeket a jeleket a memóriagráfhoz rendeli, és megvizsgálja a hozzájuk kapcsolódó asszociatív Címkéket. Az ügynök látja a „Bajnoki győzelem” és a „Bajnokságon való részvétel” címkéket. Mivel csak arra koncentrál, hogy mit tett a személy a bajnokság megnyerése után, a MRAgent elveti a részvételi címkét, és a győzelmi címkét követi. Ezt követően lekérdezi a kiválasztott Cue-Tag párhoz kapcsolódó epizodikus tartalmat, három különböző memóriakórtont szerezve, ahol Nate versenyt nyert. A MRAgent megnézi a három emléket, eldönti, hogy közülük az egyik releváns a lekérdezéshez, és elveti a többit. Ezzel az információval frissíti a jeleit, és elkezd egy újabb felfedezési és metszési kört. A lekérdezett új epizodikus memóriából az ügynök „versenypénz kereset” címszót ad a jeleihez, és ezt használja új címkék felé való navigáláshoz és új emlékek eléréséhez. Ezt az eljárást ismétli, amíg elegendő információt nem gyűjt a lekérdezés megválaszolásához, ami például a lehetne, hogy „Nate megtakarította a pénzt.”

Kapcsolódó: Memanto memóriaréteg

A MRAgent teljesítménye iparági benchmarkokon

A MRAgent számos más, ügynöki memóriabővítéssel foglalkozó keretrendszer mellett működik. Az alternatívák közé tartozik az A-MEM, egy grábalapú ügynöki memóriakeretrendszer, és a MemoryOS, egy hierarchikus memóriakeretrendszer. Más állandó memóriakeretrendszerek közé tartozik a LangMem és a Mem0. A kutatók a MRAgentet a LoCoMo és a LongMemEval iparági benchmarkokon tesztelték. Ezek az ügynökök képességeit tesztelik hosszú távú feladatok és beszélgetések megoldására több tucat munkamenet és több száz párbeszédes forduló során. Az alapul használt modellek a Gemini 2.5 Flash és a Claude Sonnet 4.5 voltak. A rendszert a standard RAG, A-MEM, MemoryOS, LangMem és Mem0 ellen tesztelték. A MRAgent mindkét modellen és minden kérdéstípuson jelentős előnnyel teljesített minden alapvonalhoz képest. Azonban a vállalati fejlesztők számára a legkritikusabb mutató gyakran a számítási költség. A LongMemEval tesztekben a MRAgent mintánként mindössze 118 ezer prompt tokent fogyasztott. Összehasonlításképpen, az A-Mem 632 ezer tokent, a LangMem pedig 3,26 millió tokent használt fel lekérdezésenként. A MRAgent az A-Memhez képest is lényegében megfelezte a futási időt, 1122 másodpercről 586 másodpercre csökkentve azt.

Kapcsolódó: ReasoningBank alkalmazása

Implementáció és fejlesztési kihívások

Bár a MRAgent rendkívül hatékony, a Cue-Tag-Content struktúrát fel kell készíteni, mielőtt az ügynök lekérdezheti. A fejlesztőknek ki kell találniuk, hogyan építsék fel az alapul szolgáló memóriatárházat, hogy az LLM hatékonyan tudjon navigálni az asszociatív elemek között, és elkerülje a számítási költségek robbanásszerű növekedését az irreleváns utak metszeni.

Kapcsolódó: helyi AI-ügynökök energiafelhasználása