AI-modellek tárolják személyek adatait – mutatja az új weboldal

A nagy nyelvi modellek (LLM) tudásukat milliárdnyi numerikus értékben, úgynevezett 'súlyokban' tárolják. Az In the Weights nevű weboldal mostantól megmutatja, hogy egy adott szemely mennyire releváns a modell számára, anélkül, hogy külső keresőeszközökre lenne szükség. A fejlesztők, Joey Flynn és Thomas Dimson, akik korábban az OpenAI-nál dolgoztak, több modellt is lekérdeznek, majd az eredményeket összesítve egy 'erősségi pontszámot' adnak meg.

Mire képes a modell

A weboldal szerint a maximális 996-os pontszám olyan neveket illet meg, mint Mozart, Shakespeare vagy Taylor Swift – írja a The Decoder. A készítők, akik maguk is tesztelték az oldalt, Matthias Bastian 175-ös, Maximilian Schreiner pedig 262-es pontszámot értek el. Az In the Weights azt is megjegyzi, hogy kisebb modellek, mint például a Meta egymilliárd paraméteres Llama modellje, nehezebben jelenítik meg az eredményeket, így aki itt megjelenik, a kiemelten relevánsnak számít a modell számára.

Kapcsolódó: AI-viselkedési keret

A modellek korlátai

A fejlesztők felhívják a figyelmet az LLM-ek korlátaira is: a modellek hajlamosak lehetnek életrajzi részletek kitalálására, a gépelési hibák csökkentik a pontszámokat, és a gyakori nevek is rosszabb eredményeket hozhatnak. Az In the Weights weboldal célja, hogy betekintést nyújtson abba, hogyan kódolják a modellek a tudásukat az emberekről. A 'súlyok' elemzése segíthet megérteni, mely személyek és fogalmak számítanak kiemelten fontosnak a betanítás során.

Kapcsolódó: OpenAI és Weights.gg

A weboldal ugyanakkor nem független, a fejlesztők állításaira támaszkodik a pontszámok és a modellek viselkedésének magyarázatával kapcsolatban. A pontos módszertan és az, hogy a magas pontszám valóban azt jelenti-e, hogy egy személy 'mélyen beágyazódott' a modellbe, nem függetlenül ellenőrzött. Az In the Weights weboldal továbbra is fejlesztés alatt áll, és új modellek tesztelése folyamatban van.

Kapcsolódó: YouTube deepfake-érzékelés