Új kutatás térképezi fel a XAI és a szimulációs modellek kapcsolatát
A komplex rendszerek szimulációja egyre inkább átláthatatlan „fekete doboz” számítógépes szimulátorokra támaszkodik, amelyek működését nehéz megérteni.
A komplex rendszerek szimulációja során gyakran használnak kifinomult, de alapvetően átláthatatlan számítógépes szimulátorokat. Ezek a modellek jelentősen csökkentik a számítási költségeket, ám a „fekete doboz” jellegüket öröklik, sőt gyakran súlyosbítják, elhomályosítva, hogyan befolyásolják a bemeneti változók a fizikai válaszokat — írja az ArXiv AI.
A magyarázható mesterséges intelligencia (XAI) hatékony eszközöket kínál e modellek működésének feltárására. A XAI-módszerek azonban küzdenek a mérnöki specifikus korlátokkal, mint például az erősen korrelált bemenetek, a dinamikus rendszerek és a szigorú megbízhatósági követelmények.
A szimulációs modellek és a XAI közötti kapcsolat feltérképezése
Emiatt a szimulációs modellezés és a XAI nagyrészt külön kutatási területekként fejlődtek, annak ellenére, hogy erősen kiegészítik egymást. A két megközelítés újbóli összekapcsolása érdekében egy új áttekintés strukturált perspektívát nyújt, amely feltérképezi a meglévő XAI-technikákat.
A jövőbeli lehetőségek és az LPV állapot-tér struktúrák
A kutatás célja, hogy áthidalja a hiányosságot, és áttekintést adjon az értelmezhető és magyarázható szimulációs modellezésről, hangsúlyozva a transzparens és megbízható döntéshozatal támogatásában rejlő potenciáljukat. A jövőben a LPV (linear parameter-varying) állapot-tér struktúrák alkalmazása – amelyek affin függőséget mutatnak a változóktól – pontos és számításilag hatékony közelítést biztosíthat a dinamikákhoz az ArXiv AI 2024. márciusi közleménye szerint.