Túl veszélyes az Anthropic új modellje a nyilvános kiadáshoz: jön a Glasswing projekt
A Glasswing projekt keretében tizenkét nagy technológiai és pénzügyi vállalat, köztük az Amazon Web Services és az Apple, kap hozzáférést a Claude Mythos Preview modellhez a szoftveres sebezhetőségek
Az Anthropic Project Glasswing néven indított kezdeményezést, amelynek középpontjában a Claude Mythos Preview nevű, még kiadatlan, élvonalbeli AI-modell áll. A cél, hogy a világ kritikus infrastruktúrájában időben megtalálják és javítsák a szoftveres sebezhetőségeket, mielőtt a rosszindulatú szereplők kihasználhatnák azokat — írja a VentureBeat.
A San Franciscó-i startup a modellt nem teszi széles körben elérhetővé, mivel annak kiberbiztonsági képességeit túl veszélyesnek ítéli. Newton Cheng, az Anthropic kiberbiztonsági vezetője szerint az AI fejlődési üteme miatt az ilyen képességek hamarosan elterjedhetnek, és a gazdaságra, a közbiztonságra, valamint a nemzetbiztonságra gyakorolt hatás súlyos lehet.
A szoftveres sebezhetőségek felfedezésének új korszaka
A Claude Mythos Preview már most is több ezer, korábban ismeretlen, súlyos, nulladik napi sebezhetőséget azonosított minden jelentősebb operációs rendszerben és böngészőben. A modell például 27 éves hibát talált az OpenBSD-ben, amely távoli rendszerösszeomlást okozhatott, valamint egy 16 éves sebezhetőséget a FFmpeg videókönyvtárban.
A technológiai fejlődés határai
A legriasztóbb felfedezése, hogy önállóan láncolt össze több sebezhetőséget a Linux kernelben, amivel teljes hozzáférést szerzett a géphez. A modell technikai fölényét a CyberGym teljesítményteszt is alátámasztja: a Mythos Preview 83,1%-ot ért el, míg az Anthropic következő legjobb modellje, a Claude Opus 4.6 csupán 66,6%-ot.
A Glasswing projekt keretében az Anthropic mintegy 100 millió dollár értékű használati kreditet biztosít a Claude Mythos Preview modellhez, valamint 4 millió dollárt adományoz nyílt forráskódú biztonsági szervezeteknek, 2024. év végéig.