A Lyzr Cognis javítja az AI-ügynökök memóriáját: új benchmarkokon is a legjobb
A rendszer egy többlépcsős lekérdezési folyamaton keresztül biztosítja, hogy a korábbi beszélgetések ne vesszenek el, és személyre szabottabb interakciókat tegyen lehetővé.
A nagyméretű nyelvi modelleken (LLM) alapuló AI-ügynökök egyik legnagyobb hiányossága, hogy nincs tartós memóriájuk, így minden új beszélgetéskor újraindulnak, és nem képesek idővel személyre szabottá válni. Ezt a problémát orvosolja a Lyzr Cognis, egy egységes memóriarchitektúra, amelyet kifejezetten beszélgető AI-ügynökök számára fejlesztettek ki — írja az ArXiv NLP.
A Cognis egy kettős tárolórendszerrel működik: az OpenSearch BM25 kulcsszóegyeztetést Matryoshka vektoros hasonlósági kereséssel kombinálja, Reciprocal Rank Fusion technológiával összeolvasztva. A kontextusérzékeny adatbetöltési folyamat a meglévő memóriákat is lekéri az új információk kinyerése előtt, ami intelligens verziókövetést tesz lehetővé. Ez megőrzi a teljes memóriahistóriát, miközben a tároló konzisztens marad.
A memóriaarchitektúra szívverése
Az időérzékeny lekérdezéseket időbeli erősítés (temporal boosting) segíti, a BGE-2 cross-encoder reranker pedig finomítja a végső eredmények minőségét. A fejlesztők két független teljesítményteszten — LoCoMo és LongMemEval — is tesztelték a Cognist, nyolc különböző válaszgeneráló modell bevonásával. Mindkét teszten a rendszer a legkorszerűbb teljesítményt nyújtotta.
A technológiai áttörés kapuja
A Lyzr Cognis nyílt forráskódú, és már telepítették is, ami széles körű hozzáférést biztosít a fejlesztők számára a technológiához. A Lyzr Cognis az ArXiv NLP-n keresztül 2024. április 15-én vált elérhetővé.