Trump támogatja az AI „vészleállító” kapcsolóját
Donald Trump szerint szükség van mesterséges intelligencia rendszerekhez beépített biztonsági intézkedésekre, beleértve egy „vészleállító” kapcsolót is. Ez a nyilatkozat a mesterséges intelligencia rendszerek egyre növekvő biztonsági kockázatai miatt hangzott el.
Az Anthropic Mythos modellje megrázta az AI és kiberbiztonsági világot, miután demonstrálta, mennyire sebezhetővé válhat az internet, a gazdaság és a társadalom az egyre erősebb AI rendszerekkel szemben — írja a Future of Life Institute (FLI).
A brit AI Biztonsági Intézet jelentése, amely a Mythos tesztelését írja le, „lépéselőnyről” számolt be a korábbi élvonalbeli modellekhez képest, egy olyan környezetben, ahol a kiberbiztonsági teljesítmény már amúgy is gyorsan javult. A jelentés azt is megjegyezte, hogy a Mythos képes volt egy „32 lépéses vállalati hálózati támadási szimulációt” végrehajtani, amely a kezdeti felderítéstől a teljes hálózati átvételig terjedt, és amelynek emberi elvégzéséhez becslések szerint 20 óra szükséges.
Anthony Aguirre, a Future of Life Institute elnök-vezérigazgatója szerint Trump pontosan látja a helyzetet: a fejlett AI rendszereknek robusztus kikapcsoló mechanizmusra van szükségük, hogy az emberek soha ne veszítsék el felettük az irányítást. A Claude Mythos megmutatta, mennyire sebezhető a gazdaságunk és a pénzügyi rendszerünk a legújabb AI rendszerek támadó kiberképességeivel szemben, nem is beszélve a még fejlettebb rendszerekről.
A Mythos a kiadás előtti tesztelés során önállóan fedezett fel „zero-day” sebezhetőségeket az összes főbb operációs rendszerben és webböngészőben, beleértve azokat a hibákat is, amelyek évtizedekig elkerülték az emberi ellenőrzést. A FLI szerint az olyan modellek, mint a Mythos, már-már emberfeletti képességgel rendelkeznek a kritikus rendszerek sebezhetőségeinek megtalálásában és kihasználásában. Ha emberfeletti AI-t építünk – amit a FLI nem javasol –, az irányítás reményében nem támaszkodhatunk pusztán szoftveres biztonsági intézkedésekre.
Hardveres szinten kell tudni kezelni ezeket a rendszereket. Ugyanazok a hardveres biztonsági intézkedések, amelyek például az iPhone-ok távoli leállítását lehetővé teszik, az AI chipeken is léteznek, és felhasználhatók az AI modellek korlátozására és működésük leállítására, ha szükséges. A FLI maga is prototípusokat készített ilyen képességekből, és ha ők meg tudták ezt tenni, akkor az NVIDIA AI fejlesztői is meg tudják valósítani, nagy léptékben, és egyre robusztusabban az új hardvergenerációkban.