Kiberbiztonsági kockázatokat tár fel az Anthropic Mythos modellje
A mesterséges intelligencia fejlesztője a modell veszélyes képességei miatt a kockázatokat is nyilvánosságra hozza, miközben szigorúan korlátozza a hozzáférést.
Az amerikai Anthropic mesterséges intelligencia fejlesztő „nyíltan feltárja a kockázatokat” az új Mythos modelljével kapcsolatban — írja a Community Newspaper Group. A cég szerint a modell kiberbiztonsági képességei rendkívül erősek, ezért korlátozzák a hozzáférését.
A vállalat szerint a Mythos modell túl veszélyes ahhoz, hogy nyilvánosan elérhetővé tegyék, éppen a hacking-képességei miatt. Az Anthropic ezzel együtt is vizsgálja azokat az állításokat, amelyek szerint jogosulatlan hozzáférés történt a Mythos AI eszközhöz.
Szakértők dicsérték a vállalat óvatosságát, amiért korlátozza, hogy ki próbálhatja ki a modellt, de aggodalmukat fejezték ki a kockázatok kezelésére irányuló nemzetközi koordináció hiánya miatt — közölte a The New York Times. A Mythos modell bejelentése globális aggodalmakat váltott ki a nukleáris fegyverek elterjedésének megakadályozására szolgáló egyezményhez hasonló szabályozás hiánya miatt.