Tízezer magas kockázatú sebezhetőséget találnak az AI-modellek hetek alatt

Az AI-modellek már képesek ezernyi szoftverhibát találni heteken belül, de ez a képesség kettős felhasználású problémát vet fel. Míg az amerikai fejlesztők a sebezhetőségek feltárására használják ezeket a technológiákat, addig Kína ipari méretű kampányokkal próbálja lemásolni ezeket a képességeket – írja a The Next Web.

A Google Threat Intelligence Group májusban megerősítette az első esetet, amikor egy AI-rendszer fedezett fel és használt ki egy nulla-napi (zero-day) sebezhetőséget még azelőtt, hogy az a védők tudomására jutott volna. Ez a folyamat, ami korábban képzett hackerektől heteket vett igénybe, órákra rövidült.

Kapcsolódó: autonóm AI csapdái

A védelem és a támadás kettős arca

Az Anthropic Project Glasswing nevű programja demonstrálja, mire képesek a fejlett AI-modellek a kiberbiztonság terén. A Claude Mythos Preview több mint 10 000 magas kockázatú sebezhetőséget tárt fel minden jelentős operációs rendszerben és webböngészőben, némelyik évtizedek óta rejtőzködött emberi felülvizsgálat elől. Az Anthropic a programot mintegy 150 szervezetnek – köztük a Samsungnak, a SK Hynixnak, a NATO-nak és az EU kiberbiztonsági ügynökségének, az ENISA-nak – tette elérhetővé 15 országban.

Kapcsolódó: AI-kódügynök sebezhetőség

Az Anthropic szerint a szűk keresztmetszet már nem a sebezhetőségek megtalálása, hanem azok gyors javítása. A probléma ott kezdődik, hogy ugyanezek a modellek elérhetővé válnak olyan szereplők számára is, akiknek nem áll szándékukban javítani a hibákat.

Kapcsolódó: AI offenzív képességek

A desztilláció problémája

Az amerikai Fehér Ház áprilisban kiadott egy memorandumot, amelyben Kínát vádolta „szándékos, ipari méretű kampányokkal” a fejlett AI-képességek kiszervezésére amerikai laboratóriumokból. A desztilláció nem igényel modellek súlyainak ellopását. Ehelyett a „desztilláló” gondosan megkonstruált lekérdezések ezreit küldi egy fejlett modellnek, összegyűjti a válaszokat, és ezek alapján képez egy olcsóbb rivális modellt, amely az eredeti képességeit közelíti meg töredék áron.

Az Anthropic három kínai laboratóriumot azonosított: a DeepSeek több mint 150 000, a MiniMax több mint 13 millió, a Moonshot AI pedig több mint 3,4 millió interakciót folytatott a Claude modellel. Az Anthropic összesen mintegy 24 000 hamisított fiókot és 16 millió interakciót azonosított.

Kapcsolódó: kiberbiztonsági együttműködés

A politikai rés

Az Egyesült Államok kormánya június 2-án kiadott egy végrehajtási rendeletet, amely önkéntes alapon kérte az AI-cégeket, hogy 30 nappal a nyilvános kiadás előtt bocsássák kormányzati kibervizsgálat alá a fejlett modelljeiket. A rendelet eredetileg 90 napos ablakot tartalmazott, de a Fehér Ház májusban visszavonta, hogy ne hátráltassa az amerikai versenyképességet Kínával szemben, majd a végső változatban 30 napra csökkentette az időtartamot.

Kapcsolódó: AI-val felfedezett zero-day rések

Eközben az Anthropic mintegy hat mérnököt telepített a Nemzetbiztonsági Ügynökséghez (NSA) a Mythos modell operatív alkalmazásainak adaptálására, ami akár támadó kiberhadműveletekhez is használható lehet Kína és Irán ellen – írja a TechTimes. Az Anthropic most az amerikai kormányt segíti a Claude Mythos modell támadó célú felhasználásában, a 2026-os évben folytatott együttműködés során.