AI csak akkor lesz munkatárs, ha teljes feladatokat végrehajt — állítja a Tencent Youtu Lab

Az AI-rendszerek akkor válhatnak megbízható munkatársakká, ha képesek befejezni a teljes feladatokat, nem csupán válaszokat generálni — véli a Tencent Youtu Lab és több kínai egyetem kutatócsoportja egy új tanulmányban. A lényeg az újrafelhasználható „képességek” (skills) és a perzisztens munkakörnyezet kombinációja, ami a „chatbotoktól a digitális kollégákig” tartó átmenetet jelenti.

A kutatás szerint a modell fejlődése öt szakaszra bontható, az alap chatbotoktól az autonóm digitális kollégákig. Az első szakaszban a modellek gyorsan generáltak szöveget, a „gondolkodó LLM-ek” (például OpenAI o1 és Deepseek-R1) pedig több számítási kapacitást fordítanak az elemzésre, ellenőrzik a köztes lépéseket és önkorrekcióra képesek, a „System 1” gyors, intuitív gondolkodásmódról a „System 2” lassú, megfontolt megközelítésére váltva.

Kapcsolódó: AI és a lustaság viszonya

A feladatoktól a munkakörnyezetekig

Az első generációs AI-ügynökök képesek voltak API-kat hívni, kódot írni vagy böngészni, de törékenyek maradtak. Négy strukturális szűk keresztmetszetet azonosítottak: az ügynökök csak töredékesen érzékelték a környezetüket, az eszközhasználatnak nem volt tartós állapota, a váratlan viselkedés megtörte őket, és ritkán fejezték be a feladatokat. A „OpenClaw korszakban” a modell egy perzisztens, biztonságos munkakörnyezetben működik, ahol fájlok, terminálok, újrafelhasználható képességek és ellenőrzési hurkok segítik a feladatok végleges befejezését.

Kapcsolódó: Stanford-Google együttműködés AI-ban

A munkakörnyezet és a képességek kombinációja

A tanulmány kulcsérve, hogy a munkakörnyezet és a képesség kombinációja teszi lehetővé a valódi teljesítménynövekedést. A munkakörnyezet biztosítja az állapotot, a tárolást és a következményeket, míg a képesség moduláris, tesztelhető és hordozható formában csomagolja a tudást. Ezáltal ahelyett, hogy minden feladatot egyedi promptokkal kellene újra kitalálni, a visszatérő munkafolyamatokat verziószámozott képességcsomagokba lehet foglalni. A kutatók szerint ezek a képességek nem utasítások vagy hagyományos eszközök, hanem a modell érvelése és a munkakörnyezet végrehajtása között helyezkednek el.

Kapcsolódó: AI-használat és problémamegoldás

Azonban a kutatók figyelmeztetnek: az újrafelhasználható eljárások elavulhatnak, túlilleszkedhetnek specifikus munkafolyamatokhoz, vagy támadási vektorokká válhatnak. Ezért az AI-rendszerek képzési és értékelési módszereinek is át kell alakulniuk. A chatbotok utasítás-válasz párokból tanultak és válaszadási pontosság alapján értékelték őket. Az új, munkakörnyezet-alapú rendszerek állapot-akció-megfigyelés (state-action-observation) trajektóriákból tanulnak, és a siker kulcsa a feladat lezárása, nem a plauzibilis válaszok adása.

Kapcsolódó: MIT előrejelzés: AI és szövegalapú munka

A biztonság is operatív problémává válik, mivel az ügynökök hozzáférhetnek érzékeny adatokhoz, helyi fájlokhoz és tokenekhez. A perzisztens munkakörnyezetek növelik a támadási felületet, és a növekvő autonómia mellett a hibák is hosszabb életűvé és nehezebben visszavonhatóvá válnak. A megbízható bevezetéshez képességéletciklus-kezelésre, munkakörnyezet-higiéniára, engedélyvezérlésre, homokozásra (sandboxing) és trajektória-alapú értékelésre van szükség — figyelmeztetnek a szerzők. A Meta, a Stanford és az Illinois-i Egyetem egy korábbi felmérése hasonló érvet fogalmazott meg: az autonóm rendszerek teljesítménye kevésbé függ az alapmodelltől, mint a körülötte lévő szoftverrétegtől.

Kapcsolódó: AI-tudásmunka valós aránya

A kutatók elismerik, hogy a munkakörnyezet-képesség kombináció nem teljes megoldás. A képességek túlilleszkedhetnek, a munkakörnyezetek pedig elavult fájlokkal és töredezett artefaktumokkal telítődhetnek. A megbízható telepítéshez képességéletciklus-kezelésre, munkakörnyezet-higiéniára, engedélyvezérlésre, homokozásra (sandboxing), visszavonásra és trajektória-alapú értékelésre van szükség — figyelmeztetnek a szerzők. A Tencent Youtu Lab tanulmánya szerint a jövő rendszerei saját végrehajtási nyomaikból tanulnak majd, és fokozatosan fejlődnek digitális kollégákká.