Claude Mythos: Az új AI-modell félelmet generál, de a nyílt forráskódú AI nem a fő probléma
A Claude Mythos bemutatása nyomán felerősödtek a nyílt forráskódú AI körüli félelmek — az Interconnects szerint ezek az aggodalmak azonban tévesek, és a tényleges kockázatoktól terelik el a figyelmet.
Újabb vita bontakozott ki a nyílt forráskódú AI-modellek veszélyeiről a Claude Mythos bemutatása után, melynek képességei — különösen a kiberbiztonság terén — rendkívül erőseknek tűnnek — írja az Interconnects.
A fő érv szerint a digitális infrastruktúra nem áll készen egy ilyen modell nyílt forráskódú változatára, ami számos fél számára tenné lehetővé támadások végrehajtását. Azonban a nyílt modellek elleni fellépés, a Mythos híreinek nyomán, túl sok általános ismeretlent von össze egy egyszerű, széles körű szakpolitikai ajánlásba, ami valójában gyengítheti a kiberbiztonsági felkészültséget. Hasonló aggodalmak merültek fel már a GPT-2 2019-es és a GPT-4 2023-as kiadásakor is, ám ezek a félelmek végül alaptalannak bizonyultak.
Miért nem a nyílt forráskód a fő probléma?
A szakértők szerint a fő hiba két probléma összetételében rejlik: egyrészt abban, hogy a nyílt és zárt modellek közötti szakadékot statikusnak tekintik, másrészt abban, hogy a nyílt forráskódú modellek általános életképességét specifikus problémákhoz kötik. Az Interconnects szerint a legjobb, élvonalbeli nyílt forráskódú modellek a közeljövőben lemaradnak az általános képességek terén a zárt modellektől. Az AI-ipar számára áldásosnak nevezhető az a 6-18 hónapos késleltetés, amíg egy zárt laborban elérhető képesség nyíltan is reprodukálhatóvá válik, ami egyensúlyt teremt a biztonság és a nyílt forráskódú ökoszisztéma fejlődése között.
A Claude Mythos szintű nyílt forráskódú modell esete árnyaltabb, mint a korábbi anti-nyílt forráskódú narratívák. Míg a GPT-4 inkább hipotetikus kockázatokról, például biológiai veszélyekről szólt, addig a kiberinfrastruktúra támadásokra való érzékenysége sokkal kézzelfoghatóbb valóság. A kockázat megfelelő felméréséhez azonban ismerni kell a rendszer pontos képességeit és a környezet állapotát, amelyben működne.
A vezető modellek, mint a Claude Opus 4.6 vagy a GPT 5.4, becslések szerint 3-5 billió paraméterrel rendelkeznek, míg a legnagyobb nyílt forráskódú modellek körülbelül 1 billió paraméteresek. A Claude Mythos előzetes árazása ötszöröse az Opusénak, ami a paraméterek számának növekedéséből, a kevésbé hatékony inference-ből vagy a komplexebb eszközrendszerből fakadhat. Egy 8 billió paraméteres, modern MoE modell futtatásához nagyságrendileg 100 darab H100 GPU-ra lehet szükség, ami napi 10 ezer dollárba kerülhet.
A Mythoshoz hasonló eszközök hatékonyabbá teszik a legjobb támadókat, de nem adnak nukleáris fegyvert minden internetező tinédzser kezébe – állítja az Interconnects. A kiberbiztonsági visszaélések morálisan szürke zónát jelentenek, de a korábbi félelmekhez hasonlóan, most is időt kell adni a technológia megértéséhez és a védekezés fejlesztéséhez, mielőtt végleges következtetéseket vonnánk le a Claude Mythos képességeiről.