Microsoft AI-eszközökkel szigorítaná a chatbotok hozzáférését a kritikus rendszerekhez

A Microsoft bemutatta az Agent Governance Toolkit nevű új csomagját, amelynek célja az AI-ügynökök biztonságos és ellenőrzött használatának biztosítása. Az eszköz egy kormányzati réteget épít az ügynökök és az általuk használt eszközök közé, megakadályozva a közvetlen végrehajtást.

Az új rendszer minden egyes műveletet ellenőriz, mielőtt a végrehajtódna. Vizsgálja az ügynök azonosítóját, megbízhatóságát, kockázati szintjét, a kért eszközt, a művelet típusát, az adatérzékenységet és a vonatkozó szabályokat. Ez a megközelítés megakadályozza a destruktív adatbázis-műveleteket, a külső e-mailek küldését, a shell-parancsok végrehajtását, a bizalmas adatokhoz való hozzáférést és a pénzügyi tranzakciókat — írja a MarkTechPost.

Kapcsolódó: AI ügynökök verziókövetése

A biztonságos AI-környezet építőkövei

A rendszer YAML-alapú szabályrendszert használ, amely részletesen meghatározza a tiltott vagy jóváhagyást igénylő műveleteket. Például a magas kockázatú ügynökök nem férhetnek hozzá érzékeny adatokhoz, és a 1000 dollár feletti pénzügyi tranzakciók emberi jóváhagyást igényelnek. A shell-parancsok homokozóban futnak, és bizonyos veszélyes kifejezéseket blokkolnak.

Kapcsolódó: AI-ügynökök runtime biztonsága

A felügyelet és az ellenőrzés fokozása

Az eszköz auditálási naplókat is generál, amelyek manipulációbiztosak, és vizualizálja az ügynökök, eszközök, szabályok és kimenetelek közötti kapcsolatokat. A tesztek és a vészleállító kapcsoló (kill switch) aktiválása is része a rendszernek, biztosítva a folyamatos felügyeletet és a gyors beavatkozás lehetőségét.

Kapcsolódó: AI-ügynökök sandboxolása

A Microsoft a Colab-környezetben is elérhetővé tette az implementációt, amely a Microsoft Agent Governance Toolkit repozitóriumára épül. A fejlesztők így közvetlenül tesztelhetik a rendszert, és integrálhatják saját alkalmazásaikba a biztonságos AI-használat érdekében. A csomag a tervek szerint 2026-ban válik szélesebb körben elérhetővé a Microsoft Agent Governance Toolkit szolgáltatásán keresztül.

Kapcsolódó: Lokális AI-ügynökök védelme