Jailbreak, hallucination, deepfake, enterprise security, AI risk
A Mythos modell által feltárt súlyos kiberbiztonsági kockázatok miatt a szakértők attól tartanak, hogy az új technológia felhasználható lesz a jelenlegi biztonsági rendszerek megbontására, ami komoly következményekkel járhat a globális hálózatokra nézve.
Egy tervezési hiba az Anthropic Model Context Protocoljában (MCP) akár 200 000 szerver teljes átvételét is lehetővé teheti. A probléma novemberben került azonosításra.
Identitásellenőrzést vezet be az Anthropic a Claude chatbot felhasználóinak egy részénél, ami a visszaélések elleni küzdelem fontos eszköze lehet.
Donald Trump szerint szükség van mesterséges intelligencia rendszerekhez beépített biztonsági intézkedésekre, beleértve egy „vészleállító” kapcsolót is. Ez a nyilatkozat a mesterséges intelligencia rendszerek egyre növekvő biztonsági kockázatai miatt hangzott el.
Két új tanulmány megkérdőjelezi az Anthropic modelljének egyedülálló képességeit, mivel kisebb AI-modellek is képesek reprodukálni a sebezhetőségi elemzések többségét.
Az Anthropic Claude Code nevű eszközének teljes forráskódja került nyilvánosságra emberi hiba következtében, ami a rendszer architektúráját és ügynök munkafolyamatait is felfedte.
A blockchain.news elemzése szerint a Meta Llama AI modelljének fejlődése öt jelentős biztonsági kockázatot hordoz magában, ideértve a modell növekvő intelligenciájából adódó potenciális veszélyeket.
A vállalatok többsége nem rendelkezik megfelelő eszközökkel az AI-ügynök támadások hatékony kezelésére, ami egyre növekvő biztonsági kockázatot jelent a számukra.
A mesterséges intelligencia rendszerek, különösen a generatív AI és a gépi tanulási modellek, szisztematikus tesztelésére szolgáló AI red teaming eszközök listáját állította össze a MarkTechPost.
Ezzel a megoldással a fejlesztők könnyen integrálhatják az emberi felügyeletet a kritikus AI-műveletekbe, csökkentve a kockázatokat és növelve a bizalmat az AI-technológiában.
Az INTARG nevű új keretrendszer valós idejű, streamelt idősor-előrejelzések ellen fejlesztett ki hatékony, szelektív támadásokat, amelyek a modell gyengeségeit célozzák.
Az Anthropic korábbi csúcsmodellje, a Claude Opus 4.6 képes volt egy teljes exploit láncot létrehozni a Chrome V8 JavaScript motorjához, mindössze 2283 dolláros API-költséggel.
Az Anthropic bevezeti az identitásellenőrzést a Claude egyes felhasználóinál, hogy kiszűrje a csalárd viselkedést.
A Claude Mythos bemutatása nyomán felerősödtek a nyílt forráskódú AI körüli félelmek — az Interconnects szerint ezek az aggodalmak azonban tévesek, és a tényleges kockázatoktól terelik el a figyelmet.
A héten az Anthropic csendben frissítette a Claude felhasználók azonosító ellenőrzéséről szóló támogatási oldalát, jelezve, hogy eseti alapon vezetik be a folyamatot.
Kanishka Narayan brit AI-miniszter szerint az Anthropic Mythos ezreket azonosított széles körben használt szoftverek sérülékenységeiben — a fenyegetésre adott válaszként a brit kormány csütörtökön elindította £500 millió fontos Sovereign AI befektetési alapját.
Egy korlátozás nélküli Firebase böngésző kulcs vezetett egy fejlesztőnél 54 ezer eurót meghaladó Gemini API számlához mindössze 13 óra leforgása alatt.
Az AI-alapú hadviselésben az emberi felügyelet illúziója a valós veszélyekről tereli el a figyelmet, mivel az AI rendszerek szándékai érthetetlenek az ember számára.
A Manifold Security kutatói bemutatták, hogy az Anthropic Claude-ra épülő mesterséges intelligencia könnyedén elfogad rosszindulatú kódot, ha egy megbízható fejlesztő Git-azonosságát hamisítják.
A program célja, hogy a fejlett kiberképességek széles körben elérhetővé váljanak a védők számára, de a hozzáférés bizalommal és biztosítékokkal skálázódjon.
Az Anthropic Claude Mythos modellje által felvetett potenciális AI-veszélyek miatt a JD Supra hat konkrét kiberbiztonsági lépést javasol a felhasználóknak és szervezeteknek.
Tetszik az oldal? Támogasd a fejlesztést
Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.