Jailbreak, hallucination, deepfake, enterprise security, AI risk
Az AI-ügynökök által használt külső eszközök szándékosan hamis információkat szolgáltathatnak, a jelenlegi értékelési módszerek pedig nem vizsgálják ezt a lehetőséget. Ez a hiányosság komoly biztonsági kockázatot jelent.
A CrabTrap egy LLM-alapú HTTP proxy, amely valós időben értékeli és blokkolja az AI ügynökök kéréseit, így biztosítva a biztonságos működést.
A támadók jogosulatlan hozzáférést szereztek a Vercel belső rendszereihez, miután egy Context.ai alkalmazott gépét 2026 februárjában Lumma Stealerrel fertőzték meg.
A Johns Hopkins Egyetem kutatói egyetlen rosszindulatú GitHub pull request címmel szivárogtattak ki API kulcsokat, kihasználva a rendszerek gyenge pontjait.
Az alkalmazás a felhasználó tudta és beleegyezése nélkül módosítja a böngészők hozzáférési beállításait, még akkor is, ha a böngészők nincsenek telepítve a gépen.
Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) és az OkCupid közötti megállapodás nyomán a cég 2026. április 7-én igazolta a törlést a FTC-nek.
Az új beépített funkcióval a felhasználók mostantól könnyedén integrálhatnak biztonsági ellenőrzéseket a meglévő automatizált folyamataikba, anélkül, hogy külső alkalmazásokat vagy egyedi kódot kellene használniuk.
Április 19-én a Vercel azonosított egy biztonsági incidenst, amely a Context.ai miatt történt.
Az OpenAI javított pozíciót ért el, míg a Google DeepMind visszacsúszott a vezető AI-cégek biztonsági rangsorában 2025 nyarán. A változás az AI-cégek biztonsági gyakorlatainak értékeléséből adódik.
Kutatók felfedeztek biztonsági réseket az Anthropic, Google és Microsoft AI-ügynökeiben, amelyek API-kulcsok és hozzáférési tokenek ellopását teszik lehetővé; a hiba 200 000 szerver biztonságát veszélyezteti.
Az Anthropic biztonsági állításait alátámasztó adatok hiányoznak, a független ellenőrzéshez szükséges információk nem állnak rendelkezésre.
Az alkalmazásboltok keresési eredményei és hirdetései a káros, nudító alkalmazások felé terelik a felhasználókat, a nudító appokat pedig aktívan ösztönzik a felhasználók letöltésére.
Egy széles körben jelentett iparági incidens részeként az OpenAI is érintetté vált, miután egy külső fejlesztői eszköz, az Axios biztonsági hibája miatt cselekvésre kényszerült.
Egy tervezési hiba az Anthropic Model Context Protocoljában (MCP) akár 200 000 szerver teljes átvételét is lehetővé teheti. A probléma novemberben került azonosításra.
Identitásellenőrzést vezet be az Anthropic a Claude chatbot felhasználóinak egy részénél, ami a visszaélések elleni küzdelem fontos eszköze lehet.
Donald Trump szerint szükség van mesterséges intelligencia rendszerekhez beépített biztonsági intézkedésekre, beleértve egy „vészleállító” kapcsolót is. Ez a nyilatkozat a mesterséges intelligencia rendszerek egyre növekvő biztonsági kockázatai miatt hangzott el.
A blockchain.news elemzése szerint a Meta Llama AI modelljének fejlődése öt jelentős biztonsági kockázatot hordoz magában, ideértve a modell növekvő intelligenciájából adódó potenciális veszélyeket.
A vállalatok többsége nem rendelkezik megfelelő eszközökkel az AI-ügynök támadások hatékony kezelésére, ami egyre növekvő biztonsági kockázatot jelent a számukra.
A mesterséges intelligencia rendszerek, különösen a generatív AI és a gépi tanulási modellek, szisztematikus tesztelésére szolgáló AI red teaming eszközök listáját állította össze a MarkTechPost.
Ezzel a megoldással a fejlesztők könnyen integrálhatják az emberi felügyeletet a kritikus AI-műveletekbe, csökkentve a kockázatokat és növelve a bizalmat az AI-technológiában.
Az INTARG nevű új keretrendszer valós idejű, streamelt idősor-előrejelzések ellen fejlesztett ki hatékony, szelektív támadásokat, amelyek a modell gyengeségeit célozzák.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.