Az Amazon szerint az AI-ügynökök megbízhatósága lassítja a vállalati bevezetést

Az AI-ügynökök vállalati bevezetését nem a képességeik hiányosságai, hanem a megbízhatóságukkal kapcsolatos problémák lassítják. Bryan Silverthorn, az Amazon AGI Autonómia igazgatója szerint a jelenlegi helyzetben a cégek 85%-a tesztel AI-ügynököket, de csupán 5%-uk juttatja el őket éles termelésbe. A szakember a VB Transform 2026 konferencián fejtette ki, hogy a kulcs nem a jobb benchmarkokban rejlik, hanem a megbízhatóság négy dimenziójának — konzisztencia, robusztusság, kiszámíthatóság és biztonság — megértésében.

Silverthorn, aki az Adept AI felvásárlása révén került az Amazonhoz, kiemelte, hogy az ügynökök gyakran átmennek a belső értékeléseken, majd az éles környezetben összeomlanak. Példaként említett egy esetet, ahol egy szoftveres QA-ügynök két hónapig hibátlanul működött szerelési számok kinyerésében, majd váratlanul téves számokat kezdett olvasni. A hiba oka a volt, hogy a látómező-enkóder eltérően viselkedett a képernyőn megjelenő szerelési szám helyétől függően, és egy ember számára észrevehetetlen szoftverváltozás okozta a problémát. Ez rávilágít arra, hogy a mérésnek, nem csak a modelleknek kell fejlődniük.

Kapcsolódó: Salesforce Agentforce Operations

A megbízhatóság négy dimenziója

A VentureBeat saját kutatása is alátámasztja ezt: a megkérdezett cégek fele olyan ügynököket vezetett be, amelyek átmentek a belső teszteken, de valós ügyfeleknél megbuktak. A vállalatok többsége az üzemidőt követi, figyelmen kívül hagyva a pontosságot — mintha a pulzust mérnék, de a diagnózist nem. Kevés biztonsági korlát létezik, a legtöbb cég a modellfejlesztők saját értékeléseire támaszkodik, ami a tesztelési stratégiát „érmefeldobássá” teszi a megbízhatóság szempontjából.

Kapcsolódó: AWS Bedrock és GPT-5.4

Silverthorn szerint a legfontosabb tanács kulturális, nem technikai jellegű. Az Amazon AGI laborjában az ügynököket „intern”-eknek nevezik, ami komoly működési filozófiát takar. Az ügynökök, akárcsak a gyakornokok, erősek, de néha tudatlanok lehetnek, képesek csodálatos munkára és látványos hibákra is. Kezelésük szoftveres készségek helyett menedzsment-készségeket igényel: fel kell tenni a kérdést, mi ronthat el, biztonsági másolatokat és visszavonási képességeket kell beépíteni, és tudatosan kell eldönteni, milyen kockázatot lehet elfogadni.

Kapcsolódó: Amazon felelős AI fejlesztése

AI-szuverenitás és költségek

Az önjavító AI továbbra is „töltött kifejezés”, bár az Amazon folyamatosan használja az AI-t modelljei javítására, a teljesen autonóm önjavítás távolinak tűnik. A számítógép-használat továbbra is a labor fő fókusza, egy kereskedelmi teherautó-ügyfél már böngészőautomatizálást használ a garanciális igények összekapcsolására töredezett rendszerekben. Azonban egyetlen ügynök sem fog kizárólag a számítógép-használatra támaszkodni; a MCP-kkel, API-kkal és más eszközökkel együtt fog működni a munkafolyamatok végrehajtásához.

Kapcsolódó: AWS Context tudásgráffal

A Cohere alelnöke, Rachad Alao szerint az AI-szuverenitás megköveteli a teljes ügynök-stack feletti ellenőrzést. Az olyan kritikus rendszereket működtető szervezeteknek, mint a bankok, kórházak és kormányok, szoros ellenőrzést kell gyakorolniuk az adatok elhelyezkedése és az AI felett. Az AI-műveleteknek olyan joghatóságok alatt kell zajlaniuk, amelyeket a szervezet megért vagy közvetlenül ellenőriz. Ez magában foglalja a GPU-kat, a privát felhőinfrastruktúrát, a modellkéréseket útvonalon elosztó irányítási rendszereket, valamint a csatlakozókat, keresőeszközöket és ügynökkeretrendszereket. Alao szerint a tokenárak csökkenése ellenére az összfogyasztás exponenciálisan növekszik, ahogy az ügyfelek egyre összetettebb ügynökhasználati esetekkel foglalkoznak, amelyek több lépést és eszközinterakciót igényelnek.

Kapcsolódó: Vállalati AI adatok aktiválása

A vállalati vezetőknek fel kell hagyniuk azzal, hogy az ügynökök egyszeri lenyűgöző teljesítményét kérdezzék, és ehelyett arra kell összpontosítaniuk, hogy képesek-e azt hibátlanul megismételni ezerszer. Azok a vállalatok, amelyek túljutnak a 85%-os korláton, nem a legokosabb ügynökökkel, hanem a legjobb menedzserekkel fognak rendelkezni. A modell március végén kerül nyilvánosságra.