AI Snake Oil: az AGI nem mérföldkő, hanem folyamatos fejlődés
Sokan tévednek, mert nincs egyértelmű küszöb, ami hirtelen változást hozna. Az AGI elérésének nincs azonnali hatása.
Az OpenAI legújabb, o3 modelljének megjelenése újra fellángoltatta a vitát arról, hogy vajon már elértük-e a mesterséges általános intelligenciát (AGI) — írja az AI Snake Oil. A szkeptikusok szerint az AGI-nak nincs konszenzusos definíciója, de a lap szerint ez eltereli a figyelmet a lényegről: ha az AGI valóban mérföldkő lenne, nyilvánvalónak kellene lennie, amikor megépül.
Az AI Snake Oil szerzői, Sayash Kapoor és Arvind Narayanan érvelése szerint az AGI nem jelent diszkontinuitást az AI-rendszerek tulajdonságaiban vagy hatásaiban. Ha egy vállalat bejelenti, hogy AGI-t épített, annak nincs azonnali, gyakorlati következménye az üzleti életre, a fejlesztőkre, a döntéshozókra vagy a biztonságra nézve. Még ha egy általános célú AI-rendszer el is ér egy bizonyos képességküszöböt, számos kiegészítő innovációra van szükség ahhoz, hogy az AI elterjedjen az iparágakban és kifejtse termelékenységi hatását.
Miért nem mérföldkő az AGI?
Az AGI-val kapcsolatos aggodalmak gyakran összekeverik a képességeket a hatalommal. Ha különbséget teszünk a kettő között, elvethetjük azt az elképzelést, hogy az AI fejlesztésében létezik egy kritikus pont, ahol az emberiség már nem tudja kontrollálni a rendszert. Az AGI definícióinak sokfélesége tünet, nem pedig a betegség. Az AGI jelentősége feltételezett hatásaiban rejlik, de a definíciónak magának az AI-rendszer tulajdonságain kell alapulnia. A rendszer tulajdonságai és a hatások közötti kapcsolat azonban bizonytalan, és nagymértékben függ attól, hogyan tervezzük meg azt a környezetet, amelyben az AI-rendszerek működnek.
Ezért egy AI-rendszer transzformatív hatásai csak visszamenőlegesen, a rendszer kiadása után határozhatók meg értelmesen. Az OpenAI o3 modelljét egyes szakértők, mint Tyler Cowen és Ethan Mollick, már AGI-nak nevezik, főként azért, mert a modell megerősítéses tanulással képes keresni a weben és eszközöket használni a gondolkodási folyamatában.
Az AI-cégek vezetői hangzatos ígéreteket tesznek az AGI néhány éven belüli megvalósítására. Hatalmas ösztönzők vannak arra, hogy egy közeljövőbeli rendszert AGI-nak nyilvánítsanak, és potenciálisan óriási költségei vannak annak, ha ezt nem teszik meg. Az AI-cégek értékeléseinek egy része talán ezeken az ígéreteken alapul, így AGI nélkül egy buborék is kipukkadhat. Az AI-fejlesztés vezetőjeként való megjelenés javíthatja a piaci részesedést, a bevételeket és a tehetségekhez való hozzáférést, de az AGI gazdasági hatása csak akkor valósul meg, ha az elterjed az egész gazdaságban, ami évtizedeket vehet igénybe.