Új módszer bontja szét a képek közös és stílusjegyeit — 3,4%-kal jobb pontosság

Az OSCS-SupCon (Orthogonal Sigmoid-based Common and Style Supervised Contrastive Learning) egy új keretrendszer, amely a képek közös és stílusbeli jellemzőinek szétválasztásával javítja a mélytanulási modellek teljesítményét. A kutatók szerint a korábbi módszerek negatív minták hígulásával és a jellemzőterek összekuszálódásával küzdöttek, ami csökkentette a megkülönböztethetőséget és az általánosíthatóságot.

A Stanford és a Google kutatói által az arXiv-on előnyomtatott formában publikált tanulmány egy sigmoid-alapú kontrasztív veszteségfüggvényt és explicit ortogonalitási megszorításokat kombinál. A sigmoid-alapú veszteség két tanulható paramétert használ a döntési határok adaptív modulálásához és a negatív minták hígulásának enyhítéséhez. Az ortogonalitási megszorítások pedig a közös és stílusjellemzők alulterek közötti átfedést csökkentik.

Kapcsolódó: súlyozott kontrasztív tanulás

Hatékonyabb jellemzők szétválasztása

A módszer célja, hogy a képek lényegi, kategóriához kapcsolódó (közös) és a kategóriától független (stílus) jellemzőit elkülönítse. Ezáltal a modellek jobban meg tudják különböztetni a különböző kategóriákat, még akkor is, ha a stílusjegyek eltérőek.

Kapcsolódó: mellkasröntgen diagnózis

Kiemelkedő eredmények teljesítményteszt adathalmazokon

Kiterjedt kísérletek hat különböző teljesítményteszt adathalmazon mutatták be, hogy az OSCS-SupCon konzisztensen felülmúlja a jelenlegi legfejlettebb felügyelt kontrasztív tanulási módszereket. Különösen a CUB200-2011 adathalmazon, egy ResNet-18 háttérarchitektúrával, a javasolt módszer 3,4%-kal javította a klasszifikációs pontosságot a CS-SupCon-hoz képest.

Kapcsolódó: orvosi képalkotás

Az OSCS-SupCon a korábbi módszerekhez képest jobb teljesítményt nyújt, miközben a jellemzőterek entánglementjét is csökkenti. A kutatás az arXiv-on érhető el, a CUB200-2011 adathalmazon elért 3,4%-os pontosságjavulás bemutatásával.

Kapcsolódó: hiányos adatok kezelése