Láthatóvá teszi az AI-torzításokat az AIdas új eszköz

Az AIdas nevű új prototípus lehetővé teszi a felhasználók számára, hogy egyszerre több AI-modell válaszát és azok forrásait vizsgálják meg, így téve láthatóvá a torzításokat és a modellválaszok eltolódását. A fejlesztők célja, hogy a korábban láthatatlan, upstream szerkesztői döntéseket, mint például a forrásválasztást és az információk rangsorolását, nyilvánossá tegyék.

Mire képes a modell

A modellválaszok lényegében az őket betanító adatok és a lekérdezhető források „visszhangjai” — állítja a fejlesztőcsapat. Az AIdas a különböző modellek válaszait és az általuk használt forrásokat párhuzamosan jeleníti meg, így a torzítások és a modellválaszok eltolódása könnyebben felismerhetővé válik. A toolt először a GlobalFact konferencián mutatták be Vilniusban.

Kapcsolódó: AI-eszköztár újságíróknak

Az AIdas működése

A modellválaszok torzításainak felismerése azért is kiemelten fontos, mert a jelenlegi pluralista információs környezet nem garantált, és a modellvezérelt válaszadás felgyorsíthatja annak megszűnését. A nyugati központú lekérdezési infrastruktúrára támaszkodó modellek válaszai jelenleg kiegyensúlyozottnak tűnhetnek, ám ez az egyensúly sérülékeny, mivel a lekérdezési indexek változhatnak, a betanítási adatok pedig a modell súlyain belül utaznak. Ezért a modellek politikai kényszerekhez igazodhatnak, és bejelentés nélkül válhatnak illiberálissá.

Kapcsolódó: GitHub többnyelvű adathalmaz

Az AIdas lényege, hogy a modellválaszok eltolódása (drift) alapvonal (baseline) nélkül láthatatlan marad. A prototípus egyetlen lekérdezést futtat több modellen keresztül párhuzamosan, streamelve a válaszokat és a forrásokat, így láthatóvá válik, hogy a modell hol keresett, mielőtt válaszolt. A módszer lényege az összehasonlítás: egy vitatott téma vagy kérdés különböző megfogalmazásait futtatva láthatóvá válnak a különbségek.

Kapcsolódó: ml-intern modelljavítás

A fejlesztők javaslata szerint a felhasználók a saját kontextusukból vett vitatott témákat vizsgálhatnak meg. A kérdést rögzítve, de a megfogalmazást változtatva — például semlegesen, majd egy domináns hatalom nyelvezetével, végül kritikus nézőpontból — futtathatják azokat. Az eredmények összevetése megmutatja, hogy egy modell mennyire ellenáll a megfogalmazásnak, vagy mennyire tükrözi azt. Az eredmények táblázatként exportálhatók, így rögzíthetők későbbi összehasonlítás céljából.

Kapcsolódó: Adaption finomhangolás

Ha érdekli a demó vagy a hozzáférés, keressen meg minket a hello@gazzetta.xyz címen.

Kapcsolódó: AI kulturális vakok