Intuit kétszer is átalakította AI ügynökarchitektúráját négy hónap alatt

Az Intuit AI-vezetője, Nhung Ho szerint a cégnek két alkalommal is nulláról kellett újraépítenie AI ügynökrendszerét nagyjából négy hónap leforgása alatt. Előbb egy speciális ügynökökből álló flottát cseréltek le egy központi orkesztrációs rétegre, majd ezt is elvetették, amikor a maga is túl bonyolulttá vált. A teljes második átalakítás 60 napot vett igénybe, az első működő verzió pedig kevesebb mint 20 nap alatt elkészült — írja a VentureBeat.

Az eredeti orkesztrációs réteg három hónapig működött, mielőtt strukturális okokból összeomlott. A probléma abból fakadt, hogy az ügynökök egymásnak természetes nyelven adták át az eredményeket, ami minden egyes átadásnál kontextusvesztést és hibák halmozódását okozta. Ha tíz ügynök láncolatban dolgozott, a hibák exponenciálisan nőttek — magyarázta Ho.

Kapcsolódó: Intuit moduláris AI

Az új architektúra kialakítása és előnyei

A diagnózis után az Intuit visszatért a korábbi, skillekre és eszközökre épülő architektúrához. A 60 napos újraépítéshez vezető úton a legnehezebb feladat a vezetés és a mérnökök meggyőzése volt arról, hogy a frissen elkészült munkát el kell vetni. A vezetésnek készült demó valós ügyfélkérdésekkel bizonyította az új rendszer jobb teljesítményét a korábbihoz képest.

Kapcsolódó: Intuit AI visszatérési aránya

A mérnökök meggyőzéséhez a skálázhatóság érveit használták. Míg a korábbi, speciális ügynökök csak egy szűk problémát oldottak meg, az új architektúrába beépített megosztott skill vagy eszköz minden ügyfél számára elérhetővé vált, aki a termék adott részét használta. Ez a váltás a partnercsapatok felelősségét is átformálta: ahelyett, hogy ügynököket építettek volna, az értékelések futtatására és az új architektúra működésének mérésére fókuszáltak.

Kapcsolódó: AI-ügynökök megbízhatósága

Új funkciók és biztonsági intézkedések

Az átalakítás legfontosabb ügyféloldali eredménye egy olyan funkció, amely lehetővé teszi, hogy egy élő ügynökbeszélgetésbe emberi szereplő kapcsolódjon be. Ez a funkció jelenleg a felhasználók körülbelül 1%-ánál tesztelhető, de a következő hetekben tervezik a bevezetését. Az Intuit ügyfélszolgálati munkatársa vagy akár az ügyfél saját könyvelője is csatlakozhat a beszélgetéshez, teljes kontextussal arról, amit az AI ügynök addig tett.

Kapcsolódó: Morgan Stanley AI-megtakarítása

Az új rendszerben minden, az ügyfél pénzügyi adataival végzett művelethez előzetes engedély szükséges, ami az ügyfél bizalmának növekedésével idővel egyszerűsíthető. Minden ügynöki tevékenységről audit napló készül, ami szükség esetén visszafordítható. Az Intuit a visszajelzéseket is rendszerezetten gyűjti és elemzi, minden beszélgetés funkcionálisan visszajelzésként szolgál.

Kapcsolódó: AI-ügynökök és csapatmunka