Az Anthropic szerint az AI fejlesztését meg kell állítani, mert hamarosan az emberi kontrollon kívülre eshet

A mesterséges intelligencia gyors fejlődése aggályokat vet fel a biztonsággal és az ellenőrizhetetlenséggel kapcsolatban. Az Anthropic szerint a technológia elérhet egy pontot, ahol már nem lesz képes az emberi beavatkozás fenntartani a kontrollt.

Az AI fejlesztés kockázatai

A vállalat arra hívja fel a figyelmet, hogy a generatív AI-k már most is képesek önmagukat javítani, ami tovább gyorsíthatja a fejlődést. Ez a „rekurzív önfejlesztés” azt jelenti, hogy a modellek egyre gyorsabban válnak fejlettebbé, ami kiszámíthatatlanná teheti a jövőbeli képességeiket.

Kapcsolódó: Anthropic biztonsági felülvizsgálata

Az Anthropic stratégiája

Az Anthropic Institute vezetője, Marina Favaro és a cég társalapítója, Jack Clark egy blogbejegyzésben fejtették ki, hogy „jó lenne a világnak, ha lehetősége lenne megmutatni vagy ideiglenesen szüneteltetni” a veszélyes AI-munkát. Ezt a célt szem előtt tartva politikai döntéshozókat is összehívnak a veszélyek megvitatására.

Kapcsolódó: AI-modellek kormányzati felülvizsgálata

A cég szerint a Claude 3 modell már most is a termelési kód 80%-át írja, ami jól mutatja a generatív AI-k növekvő képességeit. Azonban a gyors fejlődés ellenére is kiemelten fontosnak tartják a biztonsági protokollokat és a felelős fejlesztést.

Kapcsolódó: Indiai AI-tárolási követelmény

Az Anthropic második negyedévében hozza nyilvánosságra a teljesítménytesztet az Anthropic és a Claude 3 modell adataival.

Kapcsolódó: Anthropic asztali gépek irányítása