A Microsoft fejleszti az AI rendszerek felelős építését
Több mint egy éven át tartó munka után jelentette be a Microsoft a felelős AI rendszerépítésre vonatkozó keretrendszerét.
A Microsoft több mint egy éven át tartó munkálatok után publikálta a felelős AI Standardját, amely egy konkrét keretrendszer a mesterséges intelligencia rendszerek felelős fejlesztéséhez. A dokumentum célja, hogy a cég csapatainak gyakorlati útmutatót nyújtson a célkitűzések, célok és követelmények meghatározásában, amelyek a „fairness”, a „reliability” és a „safety” alapelvekhez kapcsolódnak.
A szabvány nem csak elméleti elveket fogalmaz meg, hanem konkrét, mérhető célokat is tartalmaz, mint például az „impact assessments”, a „data governance” és az „human oversight”. Ezeket a célokat részletes követelményekhez rendeli, amik a fejlesztési életciklus minden szakaszában ellenőrizhetőek. A cikkben szereplő példa a Speech‑to‑Text technológia fejlesztésén keresztül illusztrálja, hogy a Microsoft hogyan reagált egy 2020-as tanulmányra, amely kimutatta, hogy a rendszer hibaarányai a Black és az afrikai-amerikai felhasználók körében közel kétszer magasabbak voltak, mint a fehér felhasználók esetében.
A megoldás a beszédfelismerő adathalmazok bővítésén és a társadalmi nyelvhasználat mélyebb megértésén alapult. Egy szociolingvisztikai szakértővel együttműködve a vállalat új adatgyűjtési módszereket dolgozott ki, amelyek célja a teljesítménybeli különbségek csökkentése volt. Ez a gyakorlat demonstrálja, hogyan lehet a felelős AI Standardt konkrét technológiai fejlesztésekhez alkalmazni.
Egy másik bemutatott terület a Custom Neural Voice és a Facial Recognition szolgáltatások biztonságos használata. A Microsoft bevezetett egy rétegzett ellenőrzési keretet: korlátozta a hozzáférést a technológiához, meghatározta az elfogadható használati eseteket és beépített technikai védelmi mechanizmusokat, hogy a beszédfeltételezés során a hangképző személy aktív részvétele biztosítva legyen. A szabvány szerint ezek a lépések segítik a potenciális visszaélés megelőzését, miközben megőrzik a technológia pozitív alkalmazásait.
Az új szabvány a Microsoft első belső standardjára, amely 2019 végén került bevezetésre, épül, és a vállalat egy éven át tartó interdiszciplináris kutatást, mérnöki és politikai szakértőket bevonó munkát tükröz. A cikk szerint a szabvány célja, hogy a Microsoft csapatai számára a felelős AI fejlesztését a tervezés elejétől a végrehajtásig minden szakaszban támogassa, és a társadalom bizalmát erősítse. A következő lépés a szabvány széles körű bevezetése a vállalat minden részlegénél, valamint a nyilvános visszajelzések gyűjtése, amely a normák és gyakorlatok további finomításához vezet majd. A Microsoft azt jelzi, hogy a szabvány további fejlesztései és a konkrét esettanulmányok megosztása a következő hónapokban várható.