Jailbreak, hallucination, deepfake, enterprise security, AI risk
Az új irányelv segít az AppSec vezetőknek, mérnököknek és adatszakértőknek, hogy az AI-eszközök bevezetése ne váljon kontrollálhatatlan biztonsági kockázattá a vállalatoknál.
A program célja, hogy a kutatók egyetlen "jailbreak" prompttal megkerüljék a modell öt biológiai biztonsági kérdését, anélkül, hogy a moderáció beavatkozna.
A lépés részeként a Microsoft kiberbiztonsági csapata az OpenAI modelljeinek, infrastruktúrájának és közös ügyfeleinek védelmén dolgozik.
Az AI-ügynökök által használt külső eszközök szándékosan hamis információkat szolgáltathatnak, a jelenlegi értékelési módszerek pedig nem vizsgálják ezt a lehetőséget. Ez a hiányosság komoly biztonsági kockázatot jelent.
A Project Glasswing kezdeményezés célja, hogy megerősítse a szervezetek ellenállóképességét az új generációs AI-modellek, köztük a Claude Mythos jelentette fenyegetésekkel szemben.
A Mythos modell annyira hatékony a szoftveres hibák felkutatásában, hogy széles körű kiadása adatlopáshoz és kritikus infrastruktúra zavarához vezethet. A modellhez már illetéktelen felhasználók is hozzáfértek.
A CrabTrap egy LLM-alapú HTTP proxy, amely valós időben értékeli és blokkolja az AI ügynökök kéréseit, így biztosítva a biztonságos működést.
A támadók jogosulatlan hozzáférést szereztek a Vercel belső rendszereihez, miután egy Context.ai alkalmazott gépét 2026 februárjában Lumma Stealerrel fertőzték meg.
Egy privát online fórum tagjai jutottak hozzá a Mythoshoz, az Anthropic vállalati kiberbiztonsági eszközéhez, amelyet a cég a rosszindulatú felhasználás megakadályozására korlátozottan adott ki.
Az Anthropic Mythos modellje, amely korábban aggodalmakat váltott ki rendkívüli hackerképességeivel, jelentős előnyt jelenthet a kiberbiztonsági védelemben.
A Johns Hopkins Egyetem kutatói egyetlen rosszindulatú GitHub pull request címmel szivárogtattak ki API kulcsokat, kihasználva a rendszerek gyenge pontjait.
Az alkalmazás a felhasználó tudta és beleegyezése nélkül módosítja a böngészők hozzáférési beállításait, még akkor is, ha a böngészők nincsenek telepítve a gépen.
Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) és az OkCupid közötti megállapodás nyomán a cég 2026. április 7-én igazolta a törlést a FTC-nek.
Az új beépített funkcióval a felhasználók mostantól könnyedén integrálhatnak biztonsági ellenőrzéseket a meglévő automatizált folyamataikba, anélkül, hogy külső alkalmazásokat vagy egyedi kódot kellene használniuk.
A kormányok és vállalatok aggódnak, mivel az Anthropic Mythos modellje felülmúlhatja a jelenlegi kiberbiztonsági védelmeket. A modell képes gyorsabban felgyorsítani a hackelést, mint ahogy a sebezhetőségeket javítani lehet.
Április 19-én a Vercel azonosított egy biztonsági incidenst, amely a Context.ai miatt történt.
Az OpenAI javított pozíciót ért el, míg a Google DeepMind visszacsúszott a vezető AI-cégek biztonsági rangsorában 2025 nyarán. A változás az AI-cégek biztonsági gyakorlatainak értékeléséből adódik.
Kutatók felfedeztek biztonsági réseket az Anthropic, Google és Microsoft AI-ügynökeiben, amelyek API-kulcsok és hozzáférési tokenek ellopását teszik lehetővé; a hiba 200 000 szerver biztonságát veszélyezteti.
Az Anthropic biztonsági állításait alátámasztó adatok hiányoznak, a független ellenőrzéshez szükséges információk nem állnak rendelkezésre.
Az alkalmazásboltok keresési eredményei és hirdetései a káros, nudító alkalmazások felé terelik a felhasználókat, a nudító appokat pedig aktívan ösztönzik a felhasználók letöltésére.
Egy széles körben jelentett iparági incidens részeként az OpenAI is érintetté vált, miután egy külső fejlesztői eszköz, az Axios biztonsági hibája miatt cselekvésre kényszerült.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.