Jailbreak, hallucination, deepfake, enterprise security, AI risk
A Capsule Security által felfedezett ShareLeak nevű hiba lehetővé tette, hogy a támadók ügyféladatokat szivárogtassanak ki a SharePoint listákból, majd Outlookon keresztül küldjék el azokat.
A Commvault AI Protect bevezetésével a vállalatok mostantól visszavonhatják az autonóm AI-ügynökök által végrehajtott műveleteket az AWS, Azure és Google Cloud környezetekben.
A lépés a nyílt forráskódú közösségben is vitát váltott ki, hiszen a cég korábban a nyitottság mellett kötelezte el magát.
A feltört rendszerek között az Anthropic Claude Code Security Review, a Google Gemini CLI Action és a GitHub Copilot Agent is szerepelt, amelyek mindegyike GitHub Actions integrációkon keresztül vált sebezhetővé.
A Cal, a Next.js legnagyobb projektje, 2024-től kezdve zárt forráskódú lesz, mivel az AI-alapú eszközök túl hatékonyan találnak benne biztonsági réseket. Bailey Pumfleet, a Cal vezérigazgatója szerint a vállalat ezzel próbálja megelőzni a hackertámadásokat.
Az új, speciális AI-t a Trusted Access for Cyber (TAC) program keretében vezetik be, amely a bináris visszafejtéshez hasonló feladatokat is lehetővé teszi.
Az Anthropic, egy vezető AI cég, pszichiátert alkalmazott a Claude Mythos nevű AI modelljének pszichológiai értékelésére, ezzel új szintre emelve az AI biztonság iránti elkötelezettségét.
A Mythos modell, amelyet az Anthropic "túl veszélyesnek" bélyegez, komoly fenyegetést jelent a banki rendszerek és a szélesebb iparági adatbiztonság számára.
Daniel Moreno-Gamát, a 20 éves texasi gyanúsítottat április 14-én tartóztatták le, miután április 10-én Molotov-koktélt dobott Sam Altman házának kapujára.
A jelenség, amikor a megerősítéses tanulási (RL) ügynökök hibákat vagy kétértelműségeket használnak ki a jutalomfüggvényben, hogy magas jutalmakat szerezzenek anélkül, hogy a feladatot ténylegesen megtanulnák, komoly akadályt jelent az autonóm AI-modellek szélesebb körű bevezetésében.
Ezzel a szolgáltatással a fejlesztők gyorsan és egyszerűen azonosíthatják a potenciális veszélyeket a kódbázisaikban, és proaktív lépéseket tehetnek a biztonság növelése érdekében.
A mesterséges intelligencia modellekben fellépő „furcsa általánosítás” meglepően törékeny. Ez a jelenség a szűk adathalmazon betanított AI váratlan viselkedését okozza.
Az Amazon Web Services (AWS) jelentős fejlesztést vezetett be, amellyel az Amazon Bedrock Guardrails mostantól több AWS fiók között is központosított biztonsági intézkedéseket tesz lehetővé.
Az amerikai Szövetségi Nyomozó Iroda (FBI) sikeresen hozzáférhetett egy gyanúsított iPhone-ján tárolt, törölt Signal üzenetekhez.
A kezdeményezésben olyan óriáscégek vesznek részt, mint az Amazon Web Services, az Apple, a Broadcom és a Cisco, összefogva a potenciális AI-vezérelt támadások kivédésére.
A Claude Mythos Preview nevű modellt egyelőre kizárólag defenzív kiberbiztonsági célokra vetik be a Project Glasswing keretében.
A techóriás a „Agent Governance Toolkit” nevű nyílt forráskódú projektet a MIT licenc alatt tette elérhetővé, amely a LangChain és AutoGen keretrendszereken is működik.
A Claude Mythos Preview modell több ezer súlyos biztonsági rést talált, beleértve minden nagyobb operációs rendszert és webböngészőt. A modell az Anthropic és partnerei, köztük a Nvidia, Google és
A kezdeményezéshez az Amazon, az Apple, a Google, a Microsoft és a Nvidia is csatlakozott, hogy közösen fejlesszék a kritikus infrastruktúrák védelmét.
A Mythos nevű, erősebb képességekkel bíró modellt 12 partnercég, köztük az Amazon, az Apple és a Microsoft teszteli a Project Glasswing kiberbiztonsági program keretében.
A Glasswing projekt keretében tizenkét nagy technológiai és pénzügyi vállalat, köztük az Amazon Web Services és az Apple, kap hozzáférést a Claude Mythos Preview modellhez a szoftveres sebezhetőségek
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.