A kontextus nélküli anomáliadetektálás megbízhatatlan az AI-rendszerekben
A mesterséges intelligencia rendszerekben az anomáliák észlelésének pontossága drámaian csökken, ha a modellek nem veszik figyelembe a működési környezet változásait.
Az anomáliadetektálás, amely a váratlan viselkedések azonosítására szolgál, gyakran egyetlen, feltétel nélküli referenciamodellre támaszkodik a normalitás meghatározásakor. Ez a megközelítés azonban problémás, mivel az anomáliák jellege gyakran függ a kontextustól — állítja egy új kutatás, amely előnyomtatott formában jelent meg az arXiv platformon.
A legtöbb keretrendszert kizárólag normális adatokon képzik, feltételezve, hogy a normális viselkedés egyetlen eloszlásban rögzíthető. A valóságban azonban egy adott megfigyelés normális lehet az egyik működési körülmény között, de anomális egy másikban. Ez a rögzített kontextusra épülő feltételezés strukturális kétértelműséget okoz, ami megnehezíti a kontextuális eltérések és a valódi rendellenességek megkülönböztetését.
A kontextusfüggő anomáliák labirintusa
Ez a kétértelműség instabil teljesítményhez és megbízhatatlan anomáliaértékelésekhez vezet, különösen dinamikus és heterogén környezetekben. A modern érzékelőrendszerek gyakran gyűjtenek multimodális adatokat, amelyek kiegészítő információkat tartalmaznak a rendszer viselkedéséről és a környezetről is.
A kontextus megvilágítása
A kutatók szerint a megbízható anomáliadetektáláshoz elengedhetetlen a kontextuális következtetés bevezetése. Ez lehetővé tenné, hogy a rendszerek ne csak az eltéréseket észleljék, hanem azt is megértsék, hogy az adott eltérés miért következett be a specifikus működési feltételek mellett. A tanulmány az arXiv:2604.13252v1 azonosító alatt érhető el, és 2024. április 15-én kerül megvitatásra a Mesterséges Intelligencia Konferencián.