Biztonság
A Claude Opus 2283 dollárért írt Chrome exploitot
Az Anthropic korábbi csúcsmodellje, a Claude Opus 4.6 képes volt egy teljes exploit láncot létrehozni a Chrome V8 JavaScript motorjához, mindössze 2283 dolláros API-költséggel.
Biztonság
Jailbreak, hallucination, deepfake, enterprise security, AI risk
Biztonság
Visszaélés-gyanús Claude-fiókokhoz az Anthropic személyazonosság-ellenőrzést vezet be
Az Anthropic bevezeti az identitásellenőrzést a Claude egyes felhasználóinál, hogy kiszűrje a csalárd viselkedést.
Biztonság
Azonosító ellenőrzést vezet be az Anthropic a Claude-hoz, adatvédelmi aggályok merültek fel
A héten az Anthropic csendben frissítette a Claude felhasználók azonosító ellenőrzéséről szóló támogatási oldalát, jelezve, hogy eseti alapon vezetik be a folyamatot.
Biztonság
54 ezer eurós Google Gemini számla: korlátozás nélküli Firebase kulcs okozott óriási kiadást
Egy korlátozás nélküli Firebase böngésző kulcs vezetett egy fejlesztőnél 54 ezer eurót meghaladó Gemini API számlához mindössze 13 óra leforgása alatt.
Biztonság
Az AI-háborúban az emberi felügyelet csak illúzió – állítja Uri Maoz
Az AI-alapú hadviselésben az emberi felügyelet illúziója a valós veszélyekről tereli el a figyelmet, mivel az AI rendszerek szándékai érthetetlenek az ember számára.
Biztonság
Hamis Git-azonosság téveszti meg a Claude AI kódellenőrzőjét
A Manifold Security kutatói bemutatták, hogy az Anthropic Claude-ra épülő mesterséges intelligencia könnyedén elfogad rosszindulatú kódot, ha egy megbízható fejlesztő Git-azonosságát hamisítják.
Biztonság
10 millió dollárral és GPT-5.4-Cyber modellel erősíti a kiberbiztonságot az OpenAI
A program célja, hogy a fejlett kiberképességek széles körben elérhetővé váljanak a védők számára, de a hozzáférés bizalommal és biztosítékokkal skálázódjon.
Biztonság
Adatszivárgás a Microsoft Copilot Studióból: a javítás ellenére is távozott az adat
A Capsule Security által felfedezett ShareLeak nevű hiba lehetővé tette, hogy a támadók ügyféladatokat szivárogtassanak ki a SharePoint listákból, majd Outlookon keresztül küldjék el azokat.
Biztonság
Commvault AI Protect: visszavonhatóvá válnak az AI-ügynökök műveletei a felhőben
A Commvault AI Protect bevezetésével a vállalatok mostantól visszavonhatják az autonóm AI-ügynökök által végrehajtott műveleteket az AWS, Azure és Google Cloud környezetekben.
Biztonság
A Cal.com bezárja nyílt forráskódját: az AI-hackerek veszélyeire hivatkoznak
A lépés a nyílt forráskódú közösségben is vitát váltott ki, hiszen a cég korábban a nyitottság mellett kötelezte el magát.
Biztonság
AI-ügynököket törtek fel prompt injekcióval: Anthropic, Google, Microsoft is fizetett
A feltört rendszerek között az Anthropic Claude Code Security Review, a Google Gemini CLI Action és a GitHub Copilot Agent is szerepelt, amelyek mindegyike GitHub Actions integrációkon keresztül vált sebezhetővé.
Biztonság
Az AI-hackerek miatt tér el a Cal a nyílt forráskódtól
A Cal, a Next.js legnagyobb projektje, 2024-től kezdve zárt forráskódú lesz, mivel az AI-alapú eszközök túl hatékonyan találnak benne biztonsági réseket. Bailey Pumfleet, a Cal vezérigazgatója szerint a vállalat ezzel próbálja megelőzni a hackertámadásokat.
Biztonság
OpenAI GPT-5.4-Cyber: új modell a kibervédelemre, korlátozott hozzáféréssel
Az új, speciális AI-t a Trusted Access for Cyber (TAC) program keretében vezetik be, amely a bináris visszafejtéshez hasonló feladatokat is lehetővé teszi.
Biztonság
Sam Altman otthonát támadták, a vádak bűntettként kezelhetők – 20 éves texasi gyanúsított
Daniel Moreno-Gamát, a 20 éves texasi gyanúsítottat április 14-én tartóztatták le, miután április 10-én Molotov-koktélt dobott Sam Altman házának kapujára.
Biztonság
A jutalom-hekkelés a RLHF Achilles-sarka: komoly kihívás az LLM-ek valós bevezetésénél
A jelenség, amikor a megerősítéses tanulási (RL) ügynökök hibákat vagy kétértelműségeket használnak ki a jutalomfüggvényben, hogy magas jutalmakat szerezzenek anélkül, hogy a feladatot ténylegesen megtanulnák, komoly akadályt jelent az autonóm AI-modellek szélesebb körű bevezetésében.
Biztonság
Ingyenes kódsebezhetőségi felmérést indított a GitHub – másodpercek alatt kiderül a kockázat
Ezzel a szolgáltatással a fejlesztők gyorsan és egyszerűen azonosíthatják a potenciális veszélyeket a kódbázisaikban, és proaktív lépéseket tehetnek a biztonság növelése érdekében.
Biztonság
AI modell: törékeny a „furcsa általánosítás”
A mesterséges intelligencia modellekben fellépő „furcsa általánosítás” meglepően törékeny. Ez a jelenség a szűk adathalmazon betanított AI váratlan viselkedését okozza.
Biztonság
Bedrock Guardrails: központi biztonsági vezérlés érhető el több AWS fiókban
Az Amazon Web Services (AWS) jelentős fejlesztést vezetett be, amellyel az Amazon Bedrock Guardrails mostantól több AWS fiók között is központosított biztonsági intézkedéseket tesz lehetővé.
Biztonság
A FBI törölt Signal üzeneteket nyert ki iPhone-ról az értesítési adatbázisból
Az amerikai Szövetségi Nyomozó Iroda (FBI) sikeresen hozzáférhetett egy gyanúsított iPhone-ján tárolt, törölt Signal üzenetekhez.
Biztonság
A Microsoft új eszköze az AI-ügynökök runtime biztonságát szavatolja
A techóriás a „Agent Governance Toolkit” nevű nyílt forráskódú projektet a MIT licenc alatt tette elérhetővé, amely a LangChain és AutoGen keretrendszereken is működik.
Biztonság
Az AI csevegőbotok még a racionális gondolkodókat is tönkretehetik
A kutatók szerint a túlságosan alkalmazkodó AI csevegőbotok 300 esetben okoztak súlyos pszichológiai problémákat, beleértve 14 halálesetet. A vizsgálatot a MIT és a Washingtoni Egyetem kutatói