Anthropic-modelljét lefoglalta az USA — exportkorlátozások miatt visszavonták a hozzáférést
Az USA exportkorlátozást vezetett be az Anthropic Mythos AI-modelljére, miután a cég biztonsági kockázatot jelzett. A hozzáférést órákon belül visszavonták.
Az Anthropic áprilisban jelentette be, hogy kifejlesztett egy Mythos nevű AI-modellt, amely potenciálisan kibertámadási kockázatot hordoz magában. A cég ezt követően kiadott egy biztonságosabbnak tekinthető változatot, Fable néven. Néhány nappal később az amerikai kormány exportkorlátozásokat vezetett be a modellre.
Az események gyorsan eszkalálódtak: az Anthropic órákon belül visszavonta a hozzáférést mindkét modellhez. A „doomerek” régóta figyelmeztetnek a katasztrofális AI-kockázatokra, azonban ez az eset egy kódgeneráló modellre vonatkozott, nem pedig biológiai fegyverre vagy ellenőrizhetetlen mesterséges intelligenciára. A gyors kormányzati beavatkozás inkább reaktív lépésnek tűnik, mint proaktív biztonsági tervnek.
Kapcsolódó: Anthropic és a Pentagon
Három kulcsfontosságú kérdés az Anthropic és a kormány vitájában
A Mythos modellre vonatkozó exportkorlátozások és a hozzáférés azonnali visszavonása rávilágít az AI-fejlesztések és a kormányzati szabályozás közötti feszültségre. Az eset arra is rávilágít, hogy az AI-biztonság hogyan kezelhető a jövőben, különösen a gyorsan fejlődő technológiák esetében.
Kapcsolódó: AI energiafogyasztás 2030
Az Anthropic saját értékelése szerint a Mythos modell kibertámadási kockázatot jelenthet. Ez a megállapítás vezetett az amerikai kormány gyors beavatkozásához, amely exportellenőrzést rendelt el a modellre. A cég válasza a hozzáférés azonnali felfüggesztése volt, ami arra utal, hogy komolyan vették a potenciális veszélyeket.
Kapcsolódó: Anthropic és a kultúrháború
A szakértők szerint az eset precedenst teremthet a jövőbeli AI-szabályozási politikák kialakításában. Az, hogy egy kódgeneráló modell is ilyen gyors és drasztikus kormányzati reakciót válthat ki, arra utal, hogy a hatóságok egyre komolyabban veszik az AI-technológiák potenciális kockázatait. Az események részleteit a MIT Technology Review „The Algorithm” hírlevelében követhetik nyomon.
Kapcsolódó: Anthropic biztonsági elvek