A Zapier ingyenes AI Guardrails eszközzel védi a munkafolyamatokat
Az új beépített funkcióval a felhasználók mostantól könnyedén integrálhatnak biztonsági ellenőrzéseket a meglévő automatizált folyamataikba, anélkül, hogy külső alkalmazásokat vagy egyedi kódot kellene használniuk.
Ingyenes AI Guardrails eszközt vezetett be a Zapier, amely valós időben ellenőrzi az AI-munkafolyamatokat a személyes adatok, a toxikus tartalom és a prompt injection kísérletek szempontjából — írja a Zapier blogja.
Az AI Guardrails a Zapier bármely tervében elérhető, és közvetlenül beépíthető a Zap, Agent vagy Zapier MCP munkafolyamatokba. Az eszköz képes azonosítani a személyazonosításra alkalmas adatokat (PII), a káros nyelvezetet, a prompt injection kísérleteket és a negatív hangulatot, majd ezek alapján irányítani, blokkolni vagy eszkalálni az adatokat.
A biztonságos munkafolyamatok őre
Az AI Guardrails valós időben elemzi a szövegeket, legyen szó AI-generált vagy emberi tartalomról. Kétféle AI-módszert alkalmaz: a ML (gépi tanulás) alapú akciók mintázatfelismeréssel működnek, és jól definiált kategóriák, például PII-észlelés vagy hangulatelemzés esetén hatékonyak. A LLM (nagy nyelvi modell) alapú akciók viszont a modern chatbotokhoz hasonlóan kontextusfüggő és szándékosan megtévesztő tartalmak, például prompt injection kísérletek felismerésére alkalmasabbak.
Az eszköz több mint 30 féle PII-típust képes felismerni, beleértve a neveket, címeket és pénzügyi számlaszámokat. Emellett elemzi a bemeneti szöveget az AI-modell manipulálására irányuló kísérletekért, és toxicitási pontszámot ad a káros nyelvezet szűrésére. A hangulatelemzés segítségével pedig pozitív, negatív, semleges vagy vegyes érzelmi tónust képes meghatározni a szövegekben.
A munkafolyamatok védelmének kulcsa
A Zapier AI Guardrails eszköze 2024. március 15-én vált elérhetővé a felhasználók számára.