Új AI-módszer felezi a betanítási költségeket: 50-80%-kal kevesebb frissítés kell
A mesterséges intelligencia betanítását forradalmasíthatja egy új, biológiailag inspirált módszer, amely a hibákra fókuszálva optimalizálja a szinaptikus frissítéseket.
Jelentős energia- és memóriamegtakarítást ígér egy friss kutatás, amely a mesterséges neurális hálózatok tanulási folyamatát reformálná meg. A „memorized mistake-gated learning” nevű eljárás a szinaptikus frissítések számát 50-80%-kal csökkenti — írja az ArXiv AI.
A hagyományos AI-modellek minden bemutatott mintán frissítik paramétereiket, még akkor is, ha a besorolás helyes volt. Ez a folyamatos frissítés rendkívül erőforrásigényes. Az új módszer a biológiai rendszerek, például az emberi agy negatív torzításából és hibákhoz kapcsolódó reakcióiból merít ihletet, ahol a szinaptikus változások szigorúan a jelenlegi és múltbeli osztályozási hibákhoz kötődnek.
A hibák által vezérelt tanulás
Ez a „hibakapuzás” különösen hatékony lehet két területen. Egyrészt az inkrementális tanulásnál, ahol az új tudás már meglévő ismeretekre épül. Másrészt az online tanulási forgatókönyvekben, ahol az adatokat későbbi visszajátszáshoz kell tárolni, mivel a hibakapuzás csökkenti a tárolási puffer igényeit.
Tanulás a hibákból
Az algoritmus bevezetése jelentősen mérsékelheti a modern AI-modellek ökológiai lábnyomát és működési költségeit. A kutatók szerint a módszerrel a neurális hálózatok frissítési igénye akár 80%-kal is csökkenhet, ami 2024-ben várhatóan az ArXiv AI által publikált eredmények szerint a mesterséges intelligencia költségeinek csökkenéséhez vezethet.