
AI-hamisítások ellen véd a Google új hívásszűrője
A Google új funkciója automatikusan ellenőrzi a bejövő hívásokat, hogy kiszűrje a deepfake AI-alapú csalásokat, amelyek megbízható kontaktoknak adják ki magukat.
Jailbreak, hallucination, deepfake, enterprise security, AI risk

A Google új funkciója automatikusan ellenőrzi a bejövő hívásokat, hogy kiszűrje a deepfake AI-alapú csalásokat, amelyek megbízható kontaktoknak adják ki magukat.

A Daylight MDR szolgáltatása mostantól a Claude Enterprise-ra is kiterjed, a vállalatok AI-tevékenységeit folyamatosan monitorozva.

A SQLite fejlesztői 2023-ban szigorították a szabályokat, mivel az AI-generált hibajelentések elárasztották a fórumot. Az új fórumon a fejlesztők a minőségi bejegyzések kezelésére koncentrálnak.

A PAST2HARM keretrendszer múlt idejű átfogalmazásokkal támadja a multimodal AI-kat, 83-100%-os sikerrátával törve át a biztonsági korlátokat.

Az AI-támadások sebessége 8 óra helyett 22 másodpercre csökkent, figyelmeztetett Francis de Souza, a Google Cloud COO-ja. Az árnyék-AI és az elfeledett adatok új védelmi stratégiákat követelnek.

Az Anthropic a Mythos AI-modellhez való hozzáférést bővíti az Egyesült Államok és szövetséges kormányok számára, miközben a modell biztonsági teszteken bukott meg.

Egy amerikai anya több ezer dollárt veszített, miután csalók mesterséges intelligenciával klónozták lánya hangját egy hamis túszdrámában, ami egyre gyakoribb bűncselekmény.

A Project Glasswing keretében a Claude modell több mint 10 000 kritikus szoftverhibát azonosított egy hónap alatt.

A Nemzeti Közlekedésbiztonsági Hivatal (NTSB) azért vonta meg ideiglenesen a hozzáférést a nyilvános aktarendszeréhez, mert egy UPS-gép balesetében elhunyt pilóták hangját mesterséges intelligencia segítségével rekonstruálták, majd közzétették az interneten.

A Cyera AI biztonsági platformja mostantól az Anthropic Claude Enterprise felhasználói számára is elérhető, célja a vállalati adatok átfogó védelme az AI-modellek használata során.
Az új megközelítés a képek pixeleibe ágyazott jeleket használ, amelyek ellenállóbbak a manipulációval szemben, mint a korábbi, könnyen eltávolítható metaadatok.

Az új rendszer minden javasolt ügynökműveletet elfog, és explicit, deklaratív szabályok alapján értékeli, mielőtt az a gazdakörnyezetbe jutna.

A Verified Agent Skills hordozható utasításkészleteket takar, amelyek segítenek a fejlesztőknek megérteni, megbízni és biztonságosan telepíteni az AI-ügynökök képességeit.

Az új funkciókkal a vállalatok saját infrastruktúrájukra helyezhetik át az AI-ügynökök eszközvégrehajtását, miközben az Anthropic továbbra is felügyeli magát az ügynököt.

Az önállóan hosztolt sandboxok és a MCP-alagutak a hálózati határhoz helyezik a hitelesítő adatok ellenőrzését, így az ügynökök anélkül hajthatnak végre API-hívásokat, hogy maguknál tartanák a kulcsokat.

A mesterséges intelligencia által generált tartalmak hitelességének ellenőrzésére az OpenAI nyilvános ellenőrző eszközt is bemutat, amely mindkét jelzést felismeri.

Az Anthropic Mythos nevű kiberbiztonsági AI-modelljének partnerei mostantól külső biztonsági csapatokkal, iparági szervekkel és szabályozókkal is megoszthatják a talált sebezhetőségeket.

A Cloudflare új, biztonsági fókuszú nagyméretű nyelvi modellje, a Mythos, képes a felfedezett hibákat egyetlen támadási láncba rendezni.

A mesterséges intelligencia startup a Pénzügyi Stabilitási Tanáccsal (FSB) tárgyal a Claude Mythos modell potenciális kiberfenyegetéseiről, amelyek riadalmat keltettek a szakértők körében.

A kiberbiztonsági versenyen összesen 47 sebezhetőséget használtak ki sikeresen, rávilágítva az AI-alkalmazások növekvő biztonsági kihívásaira.

Az OpenClaw AI-ügynökben felfedezett négy láncolható hiba, a 'Claw Chain', lehetővé teszi a támadók számára, hogy bizalmas adatokat lopjanak, jogosultságokat emeljenek és tartós hozzáférést szerezzenek a kompromittált rendszerekhez.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.