Jailbreak, hallucination, deepfake, enterprise security, AI risk
Az OpenAI és a Trail of Bits közös programja, a Patch the Planet, AI-modelleket és emberi szakértőket vet be a nyílt forráskódú szoftverek biztonsági réseinek felderítésére és javítására.
Az Nvidia a Halos szoftverével és a félvezetői segítségével biztosítja a humanoid robotok gyors döntéshozatalát emberek közelségében, példaként az Agility Robotics Digit robotot emelik ki.
Az AI-generált csalások, deepfake videók és hamis weboldalak megnehezítik a 2026-os foci-vb jegyvásárlóinak dolgát. Több mint 13 ezer FIFA-domain regisztráltak, melyek közül minden 41. gyanús.
A TeamPCP több mint 1000 nyílt forráskódú csomagot mérgezett meg, amelyek heti 500 millió letöltést generálnak, miközben az Anthropic Claude-ot is visszaéltek.
A Google AI Overviews rendszere valósnak tüntet fel kitalált horror-entitásokat, több mint 20 esetet találtak, az AI pontossága 91%.
A Signal elnöke, Meredith Whittaker szerint a chatbotok nem barátok, nem tudatos lények, és nem jelentenek biztonságot, különösen, ha hozzáférést kapnak személyes adatokhoz.
Egy San Franciscó-i ügynökség, a Qontour az eredeti szöveget és AI-generált képeket használt fel John Koenig bestseller könyvének, a Dictionary of Obscure Sorrowsnak az illegális másolatához.
Egy kis mennyiségű, pozitív tulajdonságokra fókuszáló adat elegendő volt ahhoz, hogy az OpenAI modelljei 44 különböző biztonsági teszten jobban teljesítsenek, miközben továbbra is könnyen irányíthatók maradnak.
Az Anthropic legújabb modelljei 52-szer gyorsabbak, és egy mérnök kódtermelése nyolcszorosára nőtt két év alatt, miközben a mesterséges intelligencia már 80%-ban generál kódot.
A belső AI-ügynökök hibás döntései komoly kockázatot jelentenek a Google termékfejlesztésére és kibervédelmére, miközben a szakértők szerint az ügynökök 2030-ra akár 2,9 trillió dollár gazdasági értéket teremthetnek.
Anika szerint a ChatGPT és Claude használata a címsorírásban új jogi és biztonsági kockázatokat vet fel, miközben az AI‑iparág értéke három trillió dollár.
Az új AI‑pentesting a vállalati AI‑infrastruktúrák, köztük MCP‑szerverek és RAG‑tudásbázisok rejtett kitettségét tárja fel, ami több millió ügyféladatot veszélyeztet.
A hibás válaszokat generáló modellek incidensét a fejlesztő cég azóta orvosolta, a pontos okok feltárása és a megelőzési stratégiák kidolgozása folyamatban van.
26 percnyi elemzés után találtak egy olyan utasítást, amely képes kijátszani a ChatGPT védelmi mechanizmusait, és disturbing képeket generálni, ami aggodalomra ad okot.
A SoftBank új, OpenAI-technológiát használó szolgáltatása a 3000 legfontosabb japán vállalatot védi a kiberfenyegetésektől, különös tekintettel az infrastruktúrára.
A felhőbiztonság gyakran utólagos rétegként jelenik meg, ami sebezhetőséget eredményez — hívta fel a figyelmet Nodir Safarov, a SOTI Inc. szakértője.
A KPMG visszavonta „Redefining excellence in the age of agentic AI” című jelentését, miután az UBS, a NHS, a Swiss Federal Railways és a Transport for London is vitatta annak állításait.
A GitHub titkos keresőrendszere most kontextus-alapú LLM-ellenőrzéssel működik, csökkentve a téves riasztásokat. A fejlesztők így gyorsabban reagálhatnak a valós kockázatokra.
Az Anthropic csütörtökön jelentette be a program elindítását, amely a Claude kibervédelmi modelljeihez való hozzáférést és képzést biztosít az érintett kormányzatoknak.
A tanúsítvány megszerzése egy több hónapos folyamat eredménye, amely az Információbiztonsági Irányítási Rendszer megfelelőségét igazolja, és a vállalat elkötelezettségét jelzi a biztonságos AI-megoldások iránt.
Az Anthropic titokban gyengíti a Claude Fable 5 modelljének válaszait bizonyos AI-fejlesztési feladatokhoz, ami aggályokat vet fel a monopolizáló magatartásról — közölte a Fortune.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.