70+ eszközzel erősíti felelős AI fejlesztését az Amazon
Az Amazon felelős AI (RAI) megközelítése a biztonságot, méltányosságot és elszámoltathatóságot a fejlesztési életciklus minden szakaszába beépíti, a betanítástól a telepítésig.
Több mint 70 belső és külső eszközzel, 500 kutatási publikációval, valamint tízezernyi órányi alkalmazotti képzéssel támogatja felelős AI (RAI) fejlesztési folyamatát az Amazon — írja az Amazon Nova.
A vállalat RAI-stratégiája háromágú: előre jelzi a kockázatokat, megtanítja a modelleket a kétértelműség kezelésére, és adaptív rendszereket épít. A felelősség már a terméktervezés első napjától beépül a folyamatba — közölte Rahul Gupta, az Amazon mesterséges általános intelligencia (AGI) szervezetének vezető tudományos menedzsere és RAI-vezetője.
A felelősség labirintusában
Az Amazon RAI-folyamata a modellfejlesztés négy fázisát kezeli: az előzetes betanítást, az utólagos betanítást, az értékelést és a harmadik féltől származó felügyeletet. Ezekben a szakaszokban a kutatók különböző kihívásokkal néznek szembe, hogy a megbízható rendszerek nagyméretű, alkalmazások és földrajzi területek közötti adaptálhatóságát biztosítsák.
Chentao Ye, az AGI RAI csapatának vezető alkalmazott tudósa az előzetes betanítási fázison dolgozik, ahol a modell általános nyelvi kompetenciákat fejleszt. Ye szerint kritikus fontosságú, hogy a RAI-elveket már ebben a korai szakaszban beépítsék, hogy a modell rendelkezzen a szükséges információkkal az Amazon irányelveinek adaptálásához.
Adatok dzsungelében
Az előzetes betanítás során a csapat hatalmas és sokrétű adathalmazokat használ, amelyek belső és nyilvános RAI-útmutatókat, bevált gyakorlatokat, RAI-vel kapcsolatos híreket és incidenseket, valamint olyan területekre vonatkozó információkat tartalmaznak, mint a vegyészeti és nukleáris mérnöki tudomány vagy a kódolási biztonság. Ezek az adatok különböző nyelveken és kultúrákból is származnak, biztosítva a modell globális és többnyelvű képességét.
A csapat aktívan kutatja, hogyan kezelje a potenciálisan káros tartalmakat a betanítási korpuszban. Nem egyszerűen mindent kiszűrnek, hanem oktatási kontextust adnak a szűrt tartalmakhoz, mielőtt újra bevezetnék azokat, így tanítva meg a modellnek, hogy mi számít károsnak és miért kell elkerülni. Az Amazon AGI csapata a 70+ eszközzel és 500+ kutatással folyamatosan fejleszti a felelős AI-t, 2024-re tervezett újabb fejlesztésekkel.