Feltárja a SenseAI a pénzügyi modellek hibáit, felfedve a „Latent Reasoning Drift” jelenséget
A SenseAI adathalmaz a LLM-ek finomhangolását segíti, miközben rendszerszintű hibákat, például a „Latent Reasoning Drift” jelenséget is azonosít a pénzügyi elemzéseikben.
Emberi visszajelzésekkel validált pénzügyi hangulatelemző adatszettet mutatott be az arXiv:2604.05135v1 kutatócsoportja. A SenseAI nem csupán a modellkimeneteket rögzíti, hanem a teljes gondolkodási folyamatot is elemzi a pénzügyi döntések mögött — írja az arXiv.
Az új adatbázis a már létező megoldásokkal szemben úgynevezett gondolkodási láncokat, megbízhatósági pontszámokat, emberi korrekciós jeleket és valós piaci kimeneteket is tartalmaz. Ezzel a RLHF (Reinforcement Learning from Human Feedback) módszertanokhoz igazított szerkezetet kínál, amely kulcsfontosságú a modern nagyméretű nyelvi modellek (LLM) finomhangolásában.
Rendszerszintű hibák a modellekben
A SenseAI 1439 címkézett adatpontot foglal magában, 40 amerikai tőzsdei részvény és 13 pénzügyi adatkategória alapján. Ez lehetővé teszi a közvetlen integrációt a modern LLM finomhangolási folyamatokba.
Az adathalmaz elemzése során a kutatók rendszerszintű mintázatokat azonosítottak a modellek viselkedésében. Felfedeztek egy új típusú hibát, amelyet Latent Reasoning Driftnek neveztek el. Ez a jelenség akkor fordul elő, amikor a modellek olyan információkat vezetnek be, amelyek nem alapulnak a bemeneti adatokon.
Emellett a SenseAI elemzései következetes megbízhatósági hibákat és előretekintő torzításokat is megfigyeltek a LLM-ek pénzügyi érvelésében. Ezek a hibák rávilágítanak a mesterséges intelligencia modellek korlátaira a komplex pénzügyi döntéshozatalban. A SenseAI adatszett a tervek szerint segít kiküszöbölni ezeket a hiányosságokat.