Trump támogatja az AI „vészleállító” kapcsolóját
Donald Trump szerint szükség van mesterséges intelligencia rendszerekhez beépített biztonsági intézkedésekre, beleértve egy „vészleállító” kapcsolót is. Ez a nyilatkozat a mesterséges intelligencia rendszerek egyre növekvő biztonsági kockázatai miatt hangzott el.
Az Anthropic Mythos modellje megrázta az AI és kiberbiztonsági világot, miután demonstrálta, mennyire sebezhetővé válhat az internet, a gazdaság és a társadalom az egyre erősebb AI rendszerekkel szemben — írja a Future of Life Institute (FLI).
A brit AI Biztonsági Intézet jelentése, amely a Mythos tesztelését írja le, „lépéselőnyről” számolt be a korábbi élvonalbeli modellekhez képest, egy olyan környezetben, ahol a kiberbiztonsági teljesítmény már amúgy is gyorsan javult. A jelentés azt is megjegyezte, hogy a Mythos képes volt egy „32 lépéses vállalati hálózati támadási szimulációt” végrehajtani, amely a kezdeti felderítéstől a teljes hálózati átvételig terjedt, és amelynek emberi elvégzéséhez becslések szerint 20 óra szükséges.
Anthony Aguirre, a Future of Life Institute elnök-vezérigazgatója szerint Trump pontosan látja a helyzetet: a fejlett AI rendszereknek robusztus kikapcsoló mechanizmusra van szükségük, hogy az emberek soha ne veszítsék el felettük az irányítást. A Claude Mythos megmutatta, mennyire sebezhető a gazdaságunk és a pénzügyi rendszerünk a legújabb AI rendszerek támadó kiberképességeivel szemben, nem is beszélve a még fejlettebb rendszerekről.
A Mythos a kiadás előtti tesztelés során önállóan fedezett fel „zero-day” sebezhetőségeket az összes főbb operációs rendszerben és webböngészőben, beleértve azokat a hibákat is, amelyek évtizedekig elkerülték az emberi ellenőrzést. A FLI szerint az olyan modellek, mint a Mythos, már-már emberfeletti képességgel rendelkeznek a kritikus rendszerek sebezhetőségeinek megtalálásában és kihasználásában. Ha emberfeletti AI-t építünk – amit a FLI nem javasol –, az irányítás reményében nem támaszkodhatunk pusztán szoftveres biztonsági intézkedésekre.
Hardveres szinten kell tudni kezelni ezeket a rendszereket. Ugyanazok a hardveres biztonsági intézkedések, amelyek például az iPhone-ok távoli leállítását lehetővé teszik, az AI chipeken is léteznek, és felhasználhatók az AI modellek korlátozására és működésük leállítására, ha szükséges. A FLI maga is prototípusokat készített ilyen képességekből, és ha ők meg tudták ezt tenni, akkor a NVIDIA AI fejlesztői is meg tudják valósítani, nagy léptékben, és egyre robusztusabban az új hardvergenerációkban.