Jailbreak, hallucination, deepfake, enterprise security, AI risk
A Miasma féreg 73 Microsoft GitHub repót fertőzött meg, amelyekben a fejlesztői hozzáférések elveszítését okozta. A támadás az AI-kódoló eszközökön keresztül terjed, és a felhős hozzáféréseket, így az AWS, Azure és GCP hozzáféréseit is érinti.
A Meta AI-alapú ügyfélszolgálata biztonsági réseket tárt fel, amelyek lehetővé tették rosszindulatú felhasználók számára, hogy jelszavakat reseteljenek és fiókokat vegyenek át. A probléma az érintett fiókok biztosításával megoldódott.
Egy biztonsági rés lehetővé tette, hogy támadók OIDC tokeneket lopjanak el a Claude Code GitHub akcióin keresztül, és így írási jogot szerezzenek a repók felett.
A Lockdown Mode bevezetésével az OpenAI tovább erősíti a ChatGPT biztonságát, de fontos megjegyezni, hogy ez a funkció nem gátolja meg a prompt injectionokat, hanem csak a kimenő hálózati kéréseket korlátozza.
Az OpenAI, a Google DeepMind és az Anthropic vezetői levélben sürgetik az amerikai kongresszust, hogy tegye kötelezővé a szintetikus DNS-rendelések ellenőrzését.
A Google új funkciója automatikusan ellenőrzi a bejövő hívásokat, hogy kiszűrje a deepfake AI-alapú csalásokat, amelyek megbízható kontaktoknak adják ki magukat.
A Daylight MDR szolgáltatása mostantól a Claude Enterprise-ra is kiterjed, a vállalatok AI-tevékenységeit folyamatosan monitorozva.
A SQLite fejlesztői 2023-ban szigorították a szabályokat, mivel az AI-generált hibajelentések elárasztották a fórumot. Az új fórumon a fejlesztők a minőségi bejegyzések kezelésére koncentrálnak.
A PAST2HARM keretrendszer múlt idejű átfogalmazásokkal támadja a multimodal AI-kat, 83-100%-os sikerrátával törve át a biztonsági korlátokat.
Az AI-támadások sebessége 8 óra helyett 22 másodpercre csökkent, figyelmeztetett Francis de Souza, a Google Cloud COO-ja. Az árnyék-AI és az elfeledett adatok új védelmi stratégiákat követelnek.
Egy amerikai anya több ezer dollárt veszített, miután csalók mesterséges intelligenciával klónozták lánya hangját egy hamis túszdrámában, ami egyre gyakoribb bűncselekmény.
A Nemzeti Közlekedésbiztonsági Hivatal (NTSB) azért vonta meg ideiglenesen a hozzáférést a nyilvános aktarendszeréhez, mert egy UPS-gép balesetében elhunyt pilóták hangját mesterséges intelligencia segítségével rekonstruálták, majd közzétették az interneten.
A Cyera AI biztonsági platformja mostantól az Anthropic Claude Enterprise felhasználói számára is elérhető, célja a vállalati adatok átfogó védelme az AI-modellek használata során.
Az új megközelítés a képek pixeleibe ágyazott jeleket használ, amelyek ellenállóbbak a manipulációval szemben, mint a korábbi, könnyen eltávolítható metaadatok.
Az új rendszer minden javasolt ügynökműveletet elfog, és explicit, deklaratív szabályok alapján értékeli, mielőtt az a gazdakörnyezetbe jutna.
A Verified Agent Skills hordozható utasításkészleteket takar, amelyek segítenek a fejlesztőknek megérteni, megbízni és biztonságosan telepíteni az AI-ügynökök képességeit.
Az új funkciókkal a vállalatok saját infrastruktúrájukra helyezhetik át az AI-ügynökök eszközvégrehajtását, miközben az Anthropic továbbra is felügyeli magát az ügynököt.
Az önállóan hosztolt sandboxok és a MCP-alagutak a hálózati határhoz helyezik a hitelesítő adatok ellenőrzését, így az ügynökök anélkül hajthatnak végre API-hívásokat, hogy maguknál tartanák a kulcsokat.
A mesterséges intelligencia által generált tartalmak hitelességének ellenőrzésére az OpenAI nyilvános ellenőrző eszközt is bemutat, amely mindkét jelzést felismeri.
A kiberbiztonsági versenyen összesen 47 sebezhetőséget használtak ki sikeresen, rávilágítva az AI-alkalmazások növekvő biztonsági kihívásaira.
A BBC Panorama és a Top Comment podcast által azonosított fiókok Srí Lankáról, az Egyesült Államokból, Vietnamból, a Maldív-szigetekről, Iránból és az Egyesült Arab Emírségekből működnek.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.