Google kutatók bevezették a hűséges bizonytalanságot, csökkentve a hallucinációkat
A 25%-os alaphibát 5%-ra szorítva a kutatók 52%-os helyes válaszok eldobását mutatták be – ez a megoldás kulcsfontosságú a vállalati AI‑alkalmazásokban.
A hűséges bizonytalanságot nevezik a Google kutatócsapat által bemutatott új metakognitív technikának, amely a modell belső magabiztosságát köti össze a válasz nyelvi bizonytalanságával – írja a VentureBeat.
Mi a „utility tax”?
A jelenlegi hibacsökkentő módszerek a hibák elkerülésére 25%-os hibaarányt 5%-ra szorítanak, ami a helyes válaszok 52%-ának eldobását eredményezi, így a rendszer hasznossága drasztikusan csökken.
Kapcsolódó: LLM magyarázatok
Hogyan működik a hűséges bizonytalanság?
A modell csak akkor használja a „legjobb tipp” formulát, ha belső valószínűsége alacsony; ekkor a válasz „My best guess is …” formában jelenik meg, jelezve a bizonytalan tudást.
Kapcsolódó: TAC módszer
Üzleti AI‑alkalmazásokra gyakorolt hatás
Az új keret lehetővé teszi, hogy az autonóm rendszerek dinamikusan hívjanak meg kereső‑API‑kat, amikor a belső tudásuk nem elég biztos, ezáltal csökkentve a felesleges lekérdezéseket és a költségeket.
Kapcsolódó: LLM bizonytalanság
Korlátok és jövőbeli irányok
Gal Yona, a Google kutatója rámutat, hogy a tudás „hosszú farka” gyakorlatilag végtelen, míg a modellkapacitás véges – ez a skála a hűséges bizonytalanság további finomhangolását teszi szükségessé.
Kapcsolódó: AI fejlesztés
A VentureBeat jelentése szerint a Google kutatók új „hűséges bizonytalanság” megközelítését mutatták be, amelyet a Google csapata fejlesztett ki.
Kapcsolódó: LLM tervezés