Az AI tudásgyarapodásának korlátait modellezi az új NOVA rendszer
A rendszer a „generál, ellenőriz, akkumulál, újratanít” ciklust adaptív mintavételezési folyamatként írja le egy tudástérben.
Új kutatás vizsgálja, képesek-e az AI-rendszerek valóban új tudást felfedezni iteratív önfejlesztés útján, és milyen költségekkel jár ez — írja az ArXiv-en megjelent tanulmány.
A NOVA névre keresztelt modell elegendő feltételeket azonosít, amelyek mellett az akkumulált tudás végül lefed egy véges domént. A feltételek megsértése négy különböző hibamódhoz vezet: kontaminációhoz, felejtéshez, feltárási kudarchoz és elfogadási kudarchoz.
A tudás felfedezésének határai
A tanulmány az imperfect verification, vagyis a tökéletlen ellenőrzés problémáját is elemzi, és egy úgynevezett kontaminációs csapdát ír le. Ahogy a könnyen megtalálható tudás kimerül, az új, érvényes felfedezésekre jutó modelltömeg zsugorodik, így már kis téves pozitív arány is azt okozhatja, hogy az érvénytelen műtermékek gyorsabban kerülnek a tudásbázisba, mint a valódi felfedezések.
Tudásbázis korlátok
A kutatók szerint a Good–Turing becslés lokális kötegelt diverzitás-diagnosztika, nem pedig a történelmileg fel nem fedezett érvényes tudás becslésére szolgál. A NOVA modell rávilágít az AI tudásgyarapodásának alapvető korlátaira és a lehetséges buktatókra, amelyekkel a fejlesztőknek számolniuk kell a 2024-es évre tervezett további fejlesztések során az ArXiv-en megjelent tanulmány szerint.