Hibrid KAN-MLP-Mixer javítja az emberi tevékenység felismerést zajos adatokon
A Kolmogorov-Arnold hálózatok (KAN-ok) eddig nehezen kezelték a valós, zajos adatokat, de egy új hibrid architektúra most áthidalja ezt a problémát.
Új hibrid architektúrát, a KAN-MLP-Mixert javasolnak kutatók az emberi tevékenység felismerés (HAR) javítására, különösen zajos adatkörnyezetben — derül ki az arXiv-on előzetesen megjelent tanulmányból.
A Kolmogorov-Arnold hálózatok (KAN-ok) kivételes képességet mutattak komplex függvények megtanulására tiszta, alacsony dimenziós adatokon, de nehezen tartják fenn a teljesítményt zajos és tökéletlen valós adathalmazokon – a kutatók szerint. Ezzel szemben a hagyományos több rétegű perceptronok (MLP-k) sokkal toleránsabbak a zajjal szemben és számítási szempontból hatékonyabbak – állítják a szerzők.
A kutatók rámutattak, hogy a HAR-modellekben az összes MLP-komponens KAN-okra cserélése gyakran rontja a pontosságot és a számítási hatékonyságot. Ez felvetette a kérdést, hogyan lehetne ötvözni a KAN-ok precizitását a MLP-k zajtűrésével és hatékonyságával. Erre a problémára kínál megoldást a KAN-MLP-Mixer.
Az adatok folyója
A javasolt KAN-MLP-Mixer architektúra stratégiailag ötvözi mindkét paradigma erősségeit. Egy KAN-alapú bemeneti beágyazási réteget használ, megtartja a MLP-rétegeket a köztes jellemzők keveréséhez, és egy speciális LarctanKAN modult vezet be a végső tevékenységosztályozáshoz. Ez a hibrid megközelítés a KAN-ok precizitását a MLP-k zajtűrésével és hatékonyságával kombinálja az IMU-alapú HAR-feladatokhoz.
A zajos adatok átkelése
A kutatók nyolc nyilvános HAR adathalmazon vizsgálták az új architektúra teljesítményét, ahol a KAN-MLP-Mixer célja a KAN-ok valós adatokon való alkalmazhatóságának növelése volt. A vizsgálatok az arXiv-on 2024. március 10-én megjelent tanulmányban találhatók.