Új Alibaba-megoldás 99%-kal csökkenti az AI-ügynökök tokenfogyasztását

A nagyvállalati AI-rendszerek egyre komplexebb munkafolyamatokat kezelnek, ami kihívást jelent a részfeladatok megfelelő eszközökhöz és képességekhez való irányításában. Az Alibaba kutatói által kifejlesztett SkillWeaver keretrendszer erre kínál megoldást: létrehoz egy végrehajtási grafikon, és kiválasztja a megfelelő képességeket az egyes csomópontokhoz. A kutatók által végzett kísérletek szerint az új megközelítés jelentősen növeli a pontosságot, miközben a tokenfogyasztás több mint 99%-kal csökken a naiv megközelítéssel szemben, amely az egész eszköztárat teszi elérhetővé az ügynökök számára. A VentureBeat közölte a részleteket.

A készségek útvonalának kihívása

A modern LLM-ügynök architektúrákban a készségek kulcsfontosságúak. Ezek moduláris, újrafelhasználható eszközk specifikációk, amelyek strukturált természetes nyelvű dokumentációt használnak. Ahogy a vállalati ügynökök hatalmas eszköztárakkal integrálódnak, a felhasználói lekérdezések helyes készségekhez való irányítása nehéz feladattá válik. Az egész könyvtár LLM-nek való kitétel rendkívül hatástalan, gyorsan túlterheli a kontextus korlátokat és több százezer tokent fogyaszt. A jelenlegi eszközkiválasztó keretrendszerek ezt API-lekérdezéssel, dokumentáció-egyeztetéssel vagy hierarchikus struktúrákkal próbálják megoldani, de ez a paradigma nem elegendő a valósághoz, mivel a lekérdezések összetettek. Egy tipikus üzleti kérés, mint például „Töltsd le az adatkészletet, alakítsd át, és hozz létre vizuális jelentéseket”, nem teljesíthető egyetlen eszközzel.

Kapcsolódó: Qwen gondolkodási lánc

A SkillWeaver és a SAD működése

A kutatók a több készséget igénylő komplex feladatok kezelését „kompozicionális készség-útvonalnak” keretezik. A SkillWeaver három szakaszban orchestrálja a folyamatot: Decompose (Bontás), Retrieve (Lekérés) és Compose (Összeállítás). Először egy LLM lebontja a felhasználói kérést részfeladatokra. Ezt követően egy embedding modell összehasonlítja az egyes részfeladatokat a készségkönyvtárral, hogy előhívja a legjobb jelölt eszközök rövidlistáját. Végül egy tervező értékeli a jelölteket, ellenőrzi az inter-készség kompatibilitást, és létrehoz egy végrehajtható tervet, mint egy Irányított Ciklusmentes Grafikon (DAG).

Kapcsolódó: szimulált AI-ügynökök

A folyamat kulcsa az Iterative Skill-Aware Decomposition (SAD), egy visszacsatolási hurok. A SAD úgy működik, hogy az LLM először elkészít egy tervet, előzetes keresést végez a lazán illeszkedő készségek megtalálására, majd ezeket a visszakeresett készségeket visszacsatolja az LLM-nek, hogy finomítsa a lebontást és a szókincset a valós eszközökhöz igazítva. A kutatók által végzett kísérletek szerint a SAD jelentősen javította a pontosságot: egy 7 milliárdos paraméterű modell 51,0%-os pontossága 67,7%-ra ugrott, míg egy nagyobb modell, a Qwen-Max pontossága 92%-ot ért el. A SAD különösen a négy-öt különálló készséget igénylő „nehéz” feladatoknál javított 50%-kal a pontosságon.

Kapcsolódó: Zhenwu M890 chip

A kutatók a CompSkillBench nevű teljesítményteszten értékelték a SkillWeaver teljesítményét, amely 300 többlépéses lekérdezést tartalmazott, egy 2209 valós készségből álló könyvtárral. Az eredmények azt mutatják, hogy a tokenfogyasztás több mint 99%-kal csökkent a naiv megközelítéshez képest. A nagyobb, 14 milliárdos paraméterű modell pontossága is csökkent, ha nem volt irányítva, de a SAD segítségével javult. Ez azt sugallja, hogy az ügynök és az eszközök szókincsének összehangolása gyakran hatékonyabb, mint egy nagyobb LLM használata.

Kapcsolódó: Qwen3.6 kódolás

A SkillWeaver bevezetése jelentős előrelépést jelenthet az AI-ügynökök hatékonyságában, különösen a komplex, több eszközt igénylő vállalati alkalmazásokban. A rendszer várhatóan 2026 végén válik szélesebb körben elérhetővé.

Kapcsolódó: Anchor rendszer