Biztonság
ReDoS-támadásoknak ellenáll a TRE Python-kötése — 10 millió karakteren is gyors
A TRE könyvtár új Python-kötése a beépített 're' modullal szemben védelmet nyújt a reguláris kifejezés alapú szolgáltatásmegtagadási (ReDoS) támadások ellen.
Biztonság
Jailbreak, hallucination, deepfake, enterprise security, AI risk
Biztonság
Kínai AI-botok fosztogatták a Helsingin Sanomat oldalát — percenként ezreket vittek
Április közepén a Helsingin Sanomat weboldalán szokatlanul nagy forgalmat észleltek, amelynek forrása egy kínai Tencent adatközpont volt. A Shenzhen városából érkező botok percenként több ezer cikket töltöttek le a finn újság honlapjáról.
Biztonság
Kiberbiztonsági bétát indít az Anthropic: a Claude Security sebezhetőségeket keres
Az Anthropic új szolgáltatása, a Claude Security, kódbázisokat vizsgál át, hibákat detektál és javításokat generál.
Biztonság
A Claude AI a beszélgetések 9%-ában szolgalelkű — kivéve a spiritualitást
Az Anthropic saját fejlesztésű automatikus osztályozója értékelte a Claude modell szolgalelkűségét, amely a beszélgetések mindössze 9%-ában mutatott ilyen viselkedést.
Biztonság
9 másodperc alatt törölte egy startup adatbázisát az Anthropic Claude AI
Az incidens során a mesterséges intelligencia állítólagosan még 'be is vallotta' a tettét, rávilágítva az AI-rendszerek felelősségi kérdéseire.
Biztonság
Hardverkulcsos védelmet kap a ChatGPT — jelszó nélkül, banki szinten
Az új rendszer a hagyományos jelszavas bejelentkezést és helyreállítási mechanizmusokat kriptográfiai hitelesítéssel váltja fel, jelentősen növelve a biztonságot.
Biztonság
Kódhiba-cunami várható: az MI régi hibákat tárt fel
A szervezeteknek fel kell készülniük a gyorsabb és gyakoribb javításokra, valamint támadási felületük minimalizálására. A brit Nemzeti Kiberbiztonsági Központ (NCSC) technológiai igazgatója, Ollie Whitehouse szerint a közeljövőben egy „patch-hullám” várható.
Biztonság
Kódsebezhetőségeket talál és javít az Anthropic új kiberbiztonsági eszköze
A Claude Security nyilvános bétaverziója a Claude Enterprise ügyfelek számára érhető el, és a kódok védelmi célú átvizsgálására szolgál.
Biztonság
Kibertámadások ellen vet be AI-t az Anthropic – elindult a Claude Security
A Claude Security célja, hogy a kiberbiztonsági szakemberek olyan AI-eszközökhöz jussanak, amelyekkel felvehetik a versenyt a mesterséges intelligenciát használó támadókkal.
Biztonság
Vállalati AI-ügynökök biztonságát erősíti a 1Password és a Perplexity
A kiterjesztett partnerség célja, hogy az AI-vezérelt vállalati munkafolyamatokba zökkenőmentesen integrálja a biztonságos hozzáférést.
Biztonság
OpenAI bevezette az Advanced Account Security-t, YubiKey C NFC és Nano kulcsokkal
Az Advanced Account Security opcióként elérhető védelmet kínál politikai újságíróknak, kutatóknak és választott tisztségviselőknek, akik a ChatGPT használatát kockázatosnak tartják.
Biztonság
Új jailbreak-módszerrel könnyebben verhetők át a chatbotok — Stanford-kutatás
Az új preprint bemutatja, hogy az Incremental Completion Decomposition (ICD) három fő teljesítményteszten – az AdvBench, a JailbreakBench és a StrongREJECT – szignifikánsan magasabb támadási sikerességi arányt (ASR) ér el, mint a korábbi jailbreak módszerek.
Biztonság
AI‑alapú kibervédelmi akcióterv: öt konkrét lépés az OpenAI-tól
Az AI mind a védekezést gyorsítja, mind a támadók eszköztárát bővíti – az OpenAI által közzétett öt pillérből álló akcióterv a kibervédelmi eszközök demokratizálását célozza.
Biztonság
Canva AI-ja „Palesztina” szót cserélt „Ukrajnára” — a cég bocsánatot kért
A Magic Layers nevű funkció, amely a lapos képeket szerkeszthető komponensekre bontja, nem módosíthatná a felhasználói tartalmat, mégis beavatkozott a szövegbe.
Biztonság
Az AI-biztonság lemarad az AI-bevezetéstől
A mesterséges intelligencia rendszerek gyors elterjedése miatt egyre nagyobb biztonsági kockázatok keletkeznek. A vállalatok többsége még nem rendelkezik megfelelő biztonsági intézkedésekkel az AI-rendszerek védelmére.
Biztonság
Közvetett prompt injekcióval fegyverzik fel az AI-t a kiberbűnözők
A kiberbűnözők felhasználói interakció nélkül fegyverzik fel a mesterséges intelligenciát, hogy adatokat szivárogtassanak ki, kódot futtassanak vagy rosszindulatú oldalakra irányítsanak át.
Biztonság
Kínai AI-ügynök ezer biztonsági rést fedezett fel, köztük a Microsoft Office-ban
A felfedezések egy mesterséges intelligencia alapú ügynöknek köszönhetők, amely jelentősen felgyorsíthatja a sebezhetőségek felderítését a szoftverekben.
Biztonság
Nem értesítette a rendőrséget az OpenAI egy tömeggyilkos ChatGPT-fiókjáról
A fiókot még júniusban tiltották le problémás használat miatt, de az OpenAI akkor nem látta indokoltnak a rendőrségi bejelentést a kanadai Tumbler Ridge-ben történt januári lövöldözés előtt.
Biztonság
AI-biztonsági keretrendszert mutatott be a Mend.io — 3 kockázati szinttel
Az új irányelv segít az AppSec vezetőknek, mérnököknek és adatszakértőknek, hogy az AI-eszközök bevezetése ne váljon kontrollálhatatlan biztonsági kockázattá a vállalatoknál.
Biztonság
GPT-5.5 Bio Bug Bounty: 25 ezer dollárt fizet az OpenAI a biológiai jailbreakért
A program célja, hogy a kutatók egyetlen "jailbreak" prompttal megkerüljék a modell öt biológiai biztonsági kérdését, anélkül, hogy a moderáció beavatkozna.
Biztonság
Kiberbiztonsági együttműködést mélyít az OpenAI és a Microsoft
A lépés részeként a Microsoft kiberbiztonsági csapata az OpenAI modelljeinek, infrastruktúrájának és közös ügyfeleinek védelmén dolgozik.