Hypernetwork-modellek generálnak AI-ügynököket futásidőben
A hypernetwork-alapú modellek futásidőben, igény szerint generálnak speciális AI-ügynököket, kiküszöbölve a finomhangolás és a RAG korlátait. Ez csökkenti a felügyeleti terhelést és a költségeket.
A vállalati AI-ügynökök gyakran elakadnak a termelésben: rövid ideig működnek, majd emberi felügyeletre szorulnak a kontextus frissítéséhez és a kimenet ellenőrzéséhez. Ez a probléma akadályozza meg, hogy sok AI-pilot sikeresen élesbe álljon. A valódi cél egy olyan ügynök, amely hosszú feladatokat is képes önállóan elvégezni, minimális emberi beavatkozással.
A modell-hatékonyság korlátai
A probléma gyökere abban rejlik, hogy az AI-ügynökök hatékonysága nem a képességeikben, hanem abban rejlik, hogyan él az üzleti tudás a modellhez képest. A Chroma által tesztelt 18 vezető modell mindegyike pontatlanná vált a növekvő bemeneti adatok hatására, ami az attention mechanizmus tulajdonsága. Ez azt jelenti, hogy minél több üzleti adatot kap az ügynök, annál bizonytalanabbá válik.Kapcsolódó: AI-ügynökök hibakeresése
A jelenlegi két fő megoldás, a finomhangolás és az in-context learning (kontextus-tanulás), emberi felügyeletet igényel. A finomhangolás során a tudás a modell súlyaiba ég be, de szenved a kataklizmatikus elfelejtéstől, ami azt jelenti, hogy az új információk törölhetik a régit. Ez drága és lassú újratanulási ciklusokat eredményez, és egy modell-dzsungelt hoz létre.
Kapcsolódó: AI-ügynökök megbízhatósága
Hypernetwork-ek a megoldás
Az in-context learning a promptba helyezi a releváns információkat, de ez a kontextus-rot problémájához vezet: a lekérdezési hibák magabiztos válaszként jelennek meg, és a költségek, valamint a késleltetés nő a tokenek számával. Mindkét módszer biztosítékot ad a modell magabiztosságára, de nem garantálja a pontosságot vagy a naprakészséget, így az emberi ellenőrzés elkerülhetetlen.Kapcsolódó: nyílt forráskódú ügynökök
Egy harmadik út: a speciális modellek generálása igény szerint. Ezt a megközelítést hypernetwork-ek teszik lehetővé, amelyek futásidőben képesek kis, feladatspecifikus modelleket generálni. A Sakana AI Text-to-LoRA egyetlen lépésben képes egy modell-adaptert létrehozni egy egyszerű nyelvi leírásból. A SHINE rendszer is ezt az utat követi, ígéretes új frontvonalnak nevezve a hypernetwork-alapú adaptációt, amely elkerüli a finomhangolás költségeit és a kontextus-korlátokat.
Kapcsolódó: AI-ügynökök figyelme
A hypernetwork-ek előnye, hogy a feladatspecifikus adapterek széles tárházát egyetlen hálózatba tömörítik, amely igény szerint képes azokat előállítani. Ez csökkenti a modell-dzsungel kezelésének terheit. A kisebb, speciális modellek futtatása 10-30-szor olcsóbb lehet, mint a nagyméretű, általános modellek. A Nace.AI például MetaModel nevű technológiájával generál paraméter-adaptációkat a vállalatok szabályzatai alapján, auditálási és kockázatértékelési feladatokra.
Kapcsolódó: Anchor rendszer bemutatása
A hypernetwork-alapú modellek növelik az autonómia szintjét, mivel a szűkebb, naprakészebb és kisebb modellek kevesebb hibát vétenek. Ez azt jelenti, hogy kevesebb kimenetet kell az ügynöknek emberi felülvizsgálatra továbbítania. A 90/10-es felosztás (90% automatizált munka, 10% emberi validáció) nem előre beállított arány, hanem az architektúra eredménye. A megbízhatóságot a grounding (minden kimenet forrásához való kötése) és a visszajelzési hurok biztosítja, amely eldönti, kié lesz az így fejlődő tudás.