A Brex nyílt forráskódú CrabTrap eszköze védi az AI ügynököket a termelésben
A CrabTrap egy LLM-alapú HTTP proxy, amely valós időben értékeli és blokkolja az AI ügynökök kéréseit, így biztosítva a biztonságos működést.
Nyílt forráskódú eszközt adott ki a Brex nevű cég, amely CrabTrap néven védi az AI ügynököket a termelési környezetben — írja a Brex Journal.
Az új megoldás egy úgynevezett „LLM-as-a-judge” HTTP proxyként működik, ami azt jelenti, hogy minden, az AI ügynök által kezdeményezett kérést elfog, majd egy előre meghatározott szabályrendszer alapján értékeli azt. A rendszer ezután valós időben engedélyezi vagy blokkolja a kérést, ezzel megelőzve a potenciálisan káros vagy nem kívánt műveleteket.
A Brex szerint a CrabTrap rendkívül gyorsan, akár 30 másodperc alatt beállítható. A döntéshozatalhoz statikus szabályokat és LLM-alapú ítélkezést is használ, így rugalmasan alkalmazkodik a különböző biztonsági igényekhez. Az eszköz már elérhető a GitHubon, ezzel is hangsúlyozva a nyílt forráskódú megközelítést.