Az EU AI törvénye ütközésbe kerül a generatív AI rendszerek korlátjaival
Az EU AI törvényének augusztusban életbe lépő átláthatósági követelményeit a szakértők szerint a generatív AI rendszerek 90%-a nem tudja teljesíteni
Az EU AI törvénye által előírt átláthatósági követelmények augusztusban lépnek életbe, ami komoly kihívást jelent a generatív AI rendszerek számára. A szakértők szerint a generatív AI rendszerek 90%-a nem lesz képes teljesíteni ezeket a követelményeket, ami szignifikáns compliance problémákat vet fel.
Az EU AI törvényének 50. cikkelye kettős átláthatóságot követel meg az AI-készített tartalmaknál: a kimeneteknek emberileg érthető és géppel olvasható formában kell rendelkezésre állniuk az automatikus verifikációhoz. Ez a követelmény ütközésbe kerül a generatív AI rendszerek alapvető korlátjaival. A szintetikus adatgenerálás és az automatikus tényellenőrzés példáin keresztül bemutatjuk, hogy a compliance nem redukálható le a poszt-hoc labelingre.
A tényellenőrző folyamatokban a provenance tracking nem valósítható meg az iteratív szerkesztési munkafolyamatok és a nem determinisztikus LLM kimenetek miatt; ráadásul az assistive-function exemption nem alkalmazható, mivel ezek a rendszerek aktívan hozzárendelnek igazságértékeket, ahelyett, hogy a szerkesztési prezentációt támogatnák. A szintetikus adatgenerálásban a kettős módú jelölés paradoxon: a vízjelek, amelyek túlélnek egy emberi vizsgálatot, kockázatot jelentenek, hogy a képzés során tanulják őket, mint hamis jellemzőket.
Az iparági következmények szempontjából az EU AI törvénye komoly hatást gyakorolhat a generatív AI rendszerek fejlesztésére és telepítésére. A szolgáltatóknak és a deployereknek megfelelő mechanizmusokat kell kidolgozniuk a transparency és a compliance biztosítására, ami jelentős befektetést és fejlesztést igényel.
A következő lépés az lesz, hogy az EU szabályozói testületei és a gyakorlati szereplők együttműködnek a törvényi követelmények pontos értelmezésén és a compliance megvalósításán. Az egyik kulcsfontosságú kérdés, hogy hogyan lehet a generatív AI rendszerek korlátait leküzdeni a transparency és a compliance érdekében, anélkül, hogy a rendszerek hatékonyságát és alkalmazhatóságát veszélybe sodorják.