Kétféle AI-gondolkodási stratégia is kudarcot vall – adaptív megközelítésre van szükség
A kutatók szerint a Tree of Thought (ToT) stratégiák, mint a DPTS és a SSDP, korlátozottak és nem skálázódnak megfelelően a számítási kapacitás változásával. Úgy tűnik, hatékonyabb megközelítésre van szükség az AI-ügynökök számára.
A Tree of Thought (ToT) keresési stratégiák ígéretes irányt jelentenek a nagy nyelvi modellek (LLM) gondolkodási képességeinek javításában. Ugyanakkor a gyakorlati alkalmazás során felmerül a kérdés, hogyan viselkednek ezek a módszerek eltérő számítási kapacitás, modellméret és feladatnehézség mellett. Ezt a kérdést vizsgálta meg egy új kutatás, amely két reprezentatív ToT módszert, a DPTS-t (Monte Carlo Tree Search alapú) és a SSDP-t (Semantic Deduplication alapú) elemezte – írja az arXiv.
A DPTS hidegindítási problémája
A kutatásban a DPTS és a SSDP módszereket matematikai problémákon (Math500 és GSM8K), két különböző méretű modellen (Llama-3B és Llama-8B) és négy különböző token-kerettel (3k–10k) tesztelték. Az eredmények azt mutatják, hogy a DPTS alacsony token-keret mellett hidegindítási problémával küzd. Jelentős feltáró munkára van szüksége, mielőtt az értékbecslései megbízhatóvá válnak, így erőforrás-szűkös környezetben nem ideális, bár magasabb keretek mellett jól skálázódik.
Kapcsolódó: a kutatók felfedezték a rövid távú tervezést
A SSDP határkimerülése
Ezzel szemben a SSDP gyorsan talál jelölt megoldásokat, de hajlamos a határkimerülésre. Az agresszív csomópont-egyesítés révén véglegesen elveti a fel nem tárt utakat, így nem képes tovább javulni, függetlenül attól, mennyi számítási kapacitás marad. Ez a korlátozás megakadályozza a további fejlődésben, még akkor is, ha több erőforrás áll rendelkezésre.
Kapcsolódó: az LLM-ek logikai döntései
Az adaptív stratégiák szükségessége
A két módszer ellentétes irányú korlátokat mutat: a DPTS-nek több feltárásra van szüksége, míg a SSDP túl korán elvet bizonyos lehetőségeket. Ez arra utal, hogy sem egy fix feltárási, sem egy fix levágási (pruning) stratégia nem elegendő a teljes számítási tartományban. A kutatók szerint a tudományos érvelést végző AI-ügynökök számára olyan stratégiákra van szükség, amelyek képesek dinamikusan alkalmazkodni a keresési folyamat előrehaladásához és az elérhető erőforrásokhoz.
Kapcsolódó: komplex feladatokon az AI gondolkodása
A megfigyelt korlátok eltérhetnek más modellarchitektúrák vagy domainek esetében, amelyeket a tanulmányban nem teszteltek. A kutatás szerint az adaptív stratégiák szükségessége jelenleg egy hipotézis, amely további empirikus validálást igényel.
Kapcsolódó: a mély gondolkodás csökkenése