Az Anthropic Mythos modellje illetéktelen kezekbe került — túl veszélyes a nyilvánosságnak
A Mythos modell annyira hatékony a szoftveres hibák felkutatásában, hogy széles körű kiadása adatlopáshoz és kritikus infrastruktúra zavarához vezethet. A modellhez már illetéktelen felhasználók is hozzáfértek.
Az Anthropic PBC új mesterséges intelligencia eszköze, a Mythos túl erős ahhoz, hogy a nagyközönség számára is elérhetővé tegyék — közölte a Bloomberg.
A kockázatot az is aláhúzza, hogy a modellhez már illetéktelen felhasználók is hozzáfértek egy privát online fórumban. A hozzáférésre azon a napon került sor, amikor az Anthropic először jelentette be, hogy a modellt tesztelési célból néhány kiválasztott vállalatnak adja át – írja a Bloomberg.
Veszélyes képességek
Az AI-óriás szerint a Mythos kivételesen jól talál sebezhetőségeket szoftverekben és számítógépes rendszerekben. Emiatt csak korlátozott számú, gondosan kiválasztott fél számára teszik elérhetővé.
Ha a Mythoshoz hasonló eszközök rossz kezekbe kerülnek, az Anthropic szerint, a támadóknak egy új, hatékony fegyvert adhat az adatlopásra vagy a kritikus infrastruktúra megzavarására. A Reuters szerint a Mythos már „több ezer” jelentős sebezhetőséget tárt fel „minden nagyobb operációs rendszerben és webböngészőben”.
Andrew Martin, a Bloomberg újságírója szerint a modell képességei komoly aggodalmat váltottak ki a kiberbiztonsági szakértők és a bankszektor körében is. Az Anthropic maga is elismerte, hogy a szoftverhibák tömeges felkutatásának képessége, ha visszaélnek vele, súlyos kockázatot jelenthet a gazdaságokra, a közbiztonságra és a nemzetbiztonságra.
A Mythos kiszivárgása rávilágít a nagy AI-modellekkel járó biztonsági kihívásokra. Az Anthropic egyelőre nem közölt részleteket a modell további bevezetéséről vagy a kiszivárgás kezeléséről.