Az új neuro-szimbolikus architektúra 24%-kal javítja a LLM-ek pontosságát ARC-feladatokban
A rendszer a hagyományos, tisztán neurális hálózatok és a szigorúan szimbolikus rendszerek hiányosságait küszöböli ki, miközben a LLM-eket objektumreprezentációkkal egészíti ki.
Új neuro-szimbolikus architektúrát mutatott be az ArXiv AI, amely 24%-kal javítja a nagyméretű nyelvi modellek (LLM) pontosságát az Abstraction and Reasoning Corpus (ARC) feladatainál.
A rendszer az objektumszintű struktúrát rácshálókból nyeri ki, neurális priorokat használ a lehetséges transzformációk javaslására egy rögzített, tartományspecifikus nyelvből (DSL), majd hipotéziseket szűr a példák közötti konzisztencia alapján.
Ez a kompozíciós érvelési keretrendszer az emberi vizuális absztrakció ihlette egységmintákra épül, és objektumreprezentációkkal, valamint transzformációs javaslatokkal egészíti ki a LLM-eket.
Az ARC-AGI-2 nyilvános értékelési halmazán az alap LLM teljesítménye 16%-ról 24,4%-ra nőtt, de ARC Lang Solverrel kombinálva, egy meta-klasszifikátor segítségével, akár 30,8%-os pontosságot is elért.