Dr. Gail Joseph ellenállásba ütközik
A Washingtoni Egyetem kutatói leállították az óvodai AI-projektjüket, miután a szülők ellenállása miatt nem tudták első személyű felvételeket készíteni a gyerekekről. A projekt célja az osztálytermi interakciók minőségét értékelő AI-modellek fejlesztése lett volna.
Óvodapedagógusokat szereltek volna fel kamerákkal a Washingtoni Egyetem kutatói, hogy első személyű felvételeket készítsenek a gyerekekről, majd ezeket az adatokat mesterséges intelligencia modellek képzésére használják. A programot „opt-out” rendszerűként mutatták be, azaz a szülőknek kellett volna aktívan megtiltaniuk a felvételezést — írja a 404 Media.
A Dr. Gail Joseph és a Cultivate Learning csapat által vezetett kutatás célja a volt, hogy jobban megértsék a gyerekek mindennapi tanulási élményeit, és olyan AI-eszközöket fejlesszenek, amelyek segítenek értékelni az osztálytermi interakciók minőségét. A dokumentum szerint a felvételek havi négy alkalommal, alkalmanként akár 150 percig is készülhettek volna, anélkül, hogy a gyerekek napi rutinját megváltoztatták volna.
Szülői felháborodás és visszavonás
A szülői felháborodás azonban gyorsan eszkalálódott. Egy szülő, aki megkapta a tájékoztatót, „megdöbbentnek” érezte magát, és aggodalmát fejezte ki gyermeke képének ismeretlen AI-eszközökben való felhasználása miatt. Különösen problémásnak tartotta a tájékoztató homályos nyelvezetét és azt, hogy nem biztosítottak fordításokat a nem angol anyanyelvű családok számára.
A 404 Media beszámolója szerint a szülői visszajelzések nyomán a Washingtoni Egyetem leállította a tervezett kutatást. Jackson Holtz, az egyetem hírszolgálatának igazgatóhelyettese megerősítette, hogy a „opt-out” rendszer úgy működött volna, hogy ha akár egyetlen család is visszautasítja a részvételt, az egész osztályt kizárták volna a kutatásból. Ennek ellenére a szülők szerint a kutatók matricákat ragasztottak volna a visszautasító gyerekekre, de arról nem kaptak információt, hogy így is rögzítették volna-e őket.
A kutatók eredetileg azt tervezték, hogy a felvételeket „biztonságos, privát AI-modellek” képzésére használják, és esetlegesen megosztják más koragyermekkori oktatási kutatások támogatására. A dokumentum nem nevezett meg konkrét AI-szolgáltatókat, de utalt rá, hogy a videóadatokat felhőalapú AI-szolgáltatásokkal is feldolgozhatják. Az egyetem a visszajelzések után végül úgy döntött, hogy leállítja a projektet, és értesíti az érintett programokat a tanulmány megszüntetéséről.