Kormányzati AI: a felügyelet javítása stratégiai visszaéléshez vezethet
A mesterséges intelligencia kormányzati alkalmazása olcsóbbá és konzisztensebbé teheti az adminisztratív döntéseket, de a jogi megfelelőség kettős szerepet játszik a rendszerekben.
A kormányok egyre nagyobb érdeklődést mutatnak az AI iránt, hogy olcsóbbá, skálázhatóbbá és konzisztensebbé tegyék az adminisztratív döntéseket. Azonban a valószínűségi alapú AI-rendszereknek — ahhoz, hogy beépüljenek a közigazgatásba — olyan megfelelőségi rétegre van szükségük, amely biztosítja a döntések felülvizsgálhatóságát, ismételhetőségét és jogi védhetőségét — írja az arXiv-en előnyomtatott formában megjelent tanulmány.
Az arXiv:2604.21103v1 azonosítóval publikált kutatás rámutat, hogy a megfelelőségi réteg kezdetben javíthatja a felügyeletet, mivel könnyebben észlelhetővé teszi a jogi eltéréseket.
A szabályozás törékeny egyensúlya
A kutatók egy formális modellt dolgoztak ki, amelyben az intézmények választják meg az automatizálás mértékét, a kodifikáció fokát és az ismétlődő használat biztosítékait. A modell megmutatja, mikor válnak ezek a rendszerek sebezhetővé a kormányzaton belüli stratégiai felhasználással szemben.
A tanulmány szerint azok a reformok, amelyek kezdetben javítják a felügyeletet, később növelhetik ezt a sebezhetőséget. Az AI-használat bővítését ráadásul nehéz lehet visszavonni.
A változások következményei
2024-ben várható, hogy a kormányzati AI alkalmazások tovább terjednek, az arXiv:2604.21103v1 tanulmány szerint a kutatók hangsúlyozzák, hogy az AI-stratégia kialakításánál figyelembe kell venni a hosszú távú következményeket, mint a rendszerek sebezhetőségét.