FairMind: LLM-ekkel automatizálja az adathalmazok etikai elemzését az új prototípus
A szoftver a Plečko és Bareinboim által javasolt standard fairness modellre épül, amely kauszális hatások alapján értékeli a torzításokat.
Új szoftverprototípust mutatott be az arXiv-on egy kutatócsoport, amely a gépi tanulási adathalmazok automatikus etikai elemzését célozza. A FairMind nevű eszköz LLM-eket használ a jelentések generálásához, ezzel automatizálva a torzítások feltárását — írja a tanulmány.
A legtöbb AutoML keretrendszer nem veszi figyelembe az edzési adatok és a predikciók lehetséges etikai hiányosságait. A FairMind ezt a hiányosságot orvosolja azzal, hogy a kauszális hatások szempontjából értékeli a torzításokat, ellentétes (counterfactual) lekérdezések segítségével.
A tisztesség útján
Az eszköz a célváltozók, lehetséges zavaró tényezők és közvetítők, valamint a védettnek tekintett bemeneti jellemzők különböző értékeinek elemzésével működik. Az adatok előfeldolgozása után a FairMind zárt formában számítja ki ezeket a hatásokat, majd a LLM-ek pontos jelentéseket készítenek az adathalmazban észlelt etikai szintekről.
Etikus gépi tanulás
A FairMind fejlesztése kulcsfontosságú lépés az AI szélesebb körű elterjedésében, mivel az automatizált gépi tanulás (AutoML) egyik hiányzó elemét pótolja az etikai szempontok integrálásával. A prototípus célja, hogy a jövőben mindenki számára elérhetővé tegye az etikus AI-rendszerek fejlesztését, a Plečko és Bareinboim által javasolt standard fairness modell alapján, 2024 végére.