Az USA kormánya hozzáférést kap öt nagy AI labor modelljeihez nemzetbiztonsági tesztelésre
A Google Deepmind, Microsoft és xAI is csatlakozott az Anthropic és OpenAI mellé, előzetes hozzáférést biztosítva modelljeikhez a nemzetbiztonsági kockázatok felmérésére.
Kiterjesztette az AI modellek nemzetbiztonsági tesztelésére vonatkozó megállapodásait az USA Kereskedelmi Minisztériuma, új partnereket vonva be a programba — írja a The Decoder.
A Center for AI Standards and Innovation (CAISI), amely a minisztérium része, új megállapodásokat írt alá a Google Deepminddel, a Microsofttal és a xAI-jal. A cél, hogy a fejlett AI modelleket nyilvános megjelenésük előtt teszteljék a nemzetbiztonsági kockázatok szempontjából. Ezek az új egyezségek az Anthropic és az OpenAI korábbi megállapodásaira épülnek, így már öt vezető AI labor modelljei esnek a program hatálya alá.
A CAISI igazgatója, Chris Fall hangsúlyozta, hogy a független, szigorú méréstudomány elengedhetetlen a határterületi AI és nemzetbiztonsági következményeinek megértéséhez. A tesztelés titkosított környezetben zajlik, és olyan modellverziókat is magában foglal, amelyek csökkentett biztonsági korlátokkal rendelkeznek, hogy felmérjék a potenciális sebezhetőségeket.
Az átláthatóság sötét oldala
Az ügynökség már több mint 40 értékelést végzett, némelyiket még kiadatlan modelleken. A program kiterjesztése azzal párhuzamosan történik, hogy az AI modellek egyre gyorsabban képesek biztonsági réseket találni és kihasználni, miközben a technológiai verseny Kínával is fokozódik.
A mesterséges intelligencia mérlegén
Az USA Kereskedelmi Minisztériuma 2024. év végéig tervezi a tesztelési program eredményeinek közzétételét, a Google Deepmind, a Microsoft, a xAI, az Anthropic és az OpenAI modelljeinek értékelését követően.