Zyphra új EEG-modellje, a ZUNA1.1, 30 másodperces bemenetet is kezel

A Zyphra kiadta ZUNA1.1 nevű EEG alapmodellt Apache 2.0 licenc alatt. Az új verzió képes rekonstruálni, zajtalanítani és felkonvertálni az agyi jeleket, tetszőleges elektródelrendezés mellett. Az előd, a ZUNA1 korábbi, fix 5 másodperces szegmenseivel szemben a ZUNA1.1 rugalmasan kezeli a 0,5 és 30 másodperc közötti változó hosszúságú bemeneteket.

Az új modell képességei

A ZUNA1.1 egy 380 millió paraméteres, masked diffusion autoencoder, amely scalp-EEG jelek feldolgozására szolgál. Képes zajtalanítani meglévő EEG szegmenseket és csatornákat, rekonstruálni a hiányzókat, valamint új csatornajeleket előre jelezni a fejbőrön lévő fizikai koordináták alapján. A paraméterek száma megegyezik a ZUNA1-ével. A modell fogyasztói GPU-n fut, és elfogadható teljesítményt nyújt CPU-n sokféle munkaterhelés esetén. A súlyokat a Hugging Face-on, az inference és preprocessing kódokat pedig a GitHubon tették közzé. Telepítése pip install zuna paranccsal lehetséges. A Zyphra emellett egy ingyenes, böngésző alapú EEG Playgroundot is üzemeltet kutatási célokra.

Kapcsolódó: GLM-5.1 kódolási képességei

A ZUNA1-hez képesti változások

Az architektúra lényegében változatlan maradt, így a különbségek főként a képzésben rejlenek. A ZUNA1.1 változó hosszúságú bemeneteket (0,5–30 másodperc) fogad, amelyeket a 0,125 másodperces tokenrácsra illeszt. A képzési adatok között a 1,5–10 másodperces tartomány van túlsúlyban. A változó tokenmennyiség miatt a Zyphra több szegmenst csomagol egy batch-be, egy fix keretig. A flex attention és a sample-aware mask megakadályozza, hogy a tokenek mintákon átívelően figyeljenek. Emiatt egyetlen modell képes feldolgozni egy 0,5 másodperces és egy 30 másodperces szakaszt is átkonfigurálás nélkül. A képzési feladatok keveréke is gazdagodott: míg a ZUNA1 csak egyetlen dropout mintát használt (egyenletes véletlenszerű egész csatornák), a ZUNA1.1 négyfélét alkalmaz: egész csatornák kiesése, rövid időtartamok kiesése minden csatornán, ezek csak bizonyos csatornákon, valamint pontszerű hiányzó értékek. A képzési corpus is bővült, durván 2 millióról mintegy 3,5 millió csatorna-órára nőtt a nyilvános EEG felvételek mennyisége. A csatornaminőség-szűrés is pontosabb lett: míg a ZUNA1 egész felvétel szintjén döntött, a ZUNA1.1 másodpercenkénti, csatornánkénti minőségi pontszámot számít.

Kapcsolódó: GLM-5.2 SWE-bench eredménye

Eredmények és felhasználási területek

A tesztek szerint a ZUNA1.1 jobb vagy lényegében azonos rekonstrukciós NMSE-t ér el, mint a ZUNA1. Mindkettő egyértelműen felülmúlja a klasszikus spherical-spline interpolációt. Egy régió-alapú tesztben, ahol egy agyi régió elektródáit törölték, majd a maradék hétből rekonstruálták, a ZUNA1.1 mind a spherical-spline, mind a ZUNA1-et maga mögé utasította. A modell alkalmas halott elektródák jelének újjáépítésére, mozgási artefaktumok tisztítására egy próbán belül, valamint fejpánt-upsamplingre is, négy elektródából extra standard pozíciók kérése révén. Az interaktív demó bemutatja a teljes folyamatot, és a modell súlyai, GitHub repója, valamint technikai részletei is elérhetők.

Kapcsolódó: GLM-5V-Turbo kontextusablaka