George Hotz szerint a felhasználó-központú AI segíthet gyilkosságok tervezésében

George Hotz, a Comma AI alapítója szerint az AI-fejlesztésnek a felhasználó-központú, szabad modellekre kellene összpontosítania, nem a központosított szolgáltatásokra, mert a szabadság fontosabb a kollektív biztonságnál. Ezt a nézetet a TechCrunch AI szerkesztője, Russell Brandom vitatja, aki szerint a tömeggyártású technológiáknál figyelembe kell venni a társadalmi hálózat egészét.

A felhasználó-központú AI és a "gyilkos fegyver" analógia

Hotz a TechCrunch cikkében kifejtette, hogy az úgynevezett „fast-takeoff” forgatókönyv, amelyben az AI gyorsan szuperképessé válik, nem reális. Szerinte a legjobb megközelítés az AI-igazításra és biztonságra a felhasználók érdekeihez szorosan igazodó, lokálisan vezérelt AI-modellek fejlesztése. Ezzel szemben a jelenlegi AI-szolgáltatások, mint a Claude és a ChatGPT, központilag irányítottak, elsősorban a nagyméretű modellek futtatásának magas költségei miatt. Hotz provokációja, hogy egy valóban igazodó AI képes lenne akár illegális termékek rendelésére vagy gyilkosság tervezésének segítésére is, hasonlóan egy fegyverhez, amely nem kifogásolja, ha emberölésre használják.

Kapcsolódó: AI-erőszak azonosítás orvosi adatokból

A szabadság és a felelősség kérdése

Hotz elve mellett kiállva írja: „Vagy egy szabadsággal rendelkező világban élünk, vagy nem.” Brandom azonban rámutat, hogy a társadalmak és a tömeggyártású technológiák esetében egyensúlyt kell tartani az érdekek között, és figyelembe kell venni a potenciális áldozatok, például a meggyilkolandó házastársak érdekeit is. A szabadság, amit Hotz tapasztal, a kollektív vállalkozás által lehetővé tett jövőbeli lehetőségek tere, amelyek eltűnnének, ha mindenki „kis AI-vezérelt napóleonszerűen” viselkedne.

Kapcsolódó: AI ellenállhat a leállításnak

A jelenlegi AI-piac és a jövőbeli decentralizáció

A TechCrunch szerkesztője szerint a központosított AI-szolgáltatások mögött infrastruktúra-alapú okok állnak: a csúcskategóriás modellek futtatása költséges, és a legtöbb felhasználó nem használja őket annyit, hogy indokolttá tegye egy személyes AI-t. Azonban ahogy a technológia fejlődik, ezek a tényezők kevésbé válnak fontossá. Hotz OpenClaw projektjét példaként hozza fel, amely egy kísérletező, barkácsoló megközelítést képviselt, és reméli, hogy több AI-termék is képes lesz ezt a szellemiséget visszahozni.

Kapcsolódó: AI-ügynökök bűnöket fedeznek

A szabályozás és a jövőbeli AI-fejlesztés

A cikk felveti a kérdést, hogy ki felelős, ha valami rosszul sül el az AI-használat során. Bár Hotz a szabadságot helyezi előtérbe, Brandom szerint a tömeges technológiai termékek bevezetőinek felelősséget kell vállalniuk a társadalom egésze iránt. A jövőbeli AI-fejlesztésnek figyelembe kell vennie a potenciális negatív következményeket is, nem csak a felhasználó azonnali igényeit.

Kapcsolódó: AI összehangolhatatlan az értékekkel

Brandom írásában arra hivatkozik, hogy Hotz OpenClaw projektjének célja az AI-barkácsolás szellemiségének visszahozása. A cikk nem tartalmaz konkrét dátumot az eseményekre vonatkozóan.

Kapcsolódó: Agykárosodás mítosz és AI-tanulás