Filozófusokat alkalmaz az OpenAI és a Google

Az AI-forradalom új foglalkoztatási lehetőségeket teremt a filozófusok számára. Henry Ajder, aki az Egyesült Királyság kormányát és startupokat tanácsol mesterséges intelligencia ügyekben, szerint „valószínűleg ez a legjobb idő filozófusnak lenni Arisztotelész óta, akit Nagy Sándor nevelőtanárként alkalmazott.” A technológia, amely sok más szakmát fenyeget, most új lendületet ad azoknak a kérdéseknek, amelyeket a filozófusok vizsgálnak: Mi az intelligencia? Mi a tudat? „Több száz évvel ezelőtti filozófusok is foglalkoztak hasonló problémákkal — mondja Ajder —, most pedig ezek válnak valósággá.”

Két vezető AI-labor, a Google DeepMind és az Anthropic is csapatokat toborzott be a terület szakértőiből. Az etikus Iason Gabriel, a Google DeepMind kutatócsapatának vezetője közölte, hogy „jelentősen több filozófus van most, ez egy megalapozott intuíció.” Az Anthropic-nál Amanda Askell rezidens filozófus a cég egyik legismertebb arcává vált. Bár mindkét labor nem árulta el a foglalkoztatott filozófusok pontos számát, a WIRED legalább 10-et talált a DeepMindnál és négyet az Anthropicnál.

A laborokban dolgozó filozófusok nemcsak az AI-modellek formálásában vesznek részt, hanem jelentős munkát is végeznek, amelyet több száz kutatási cikk idéz. Ugyanakkor az AI is alakítja a filozófia tanterveit az egyetemeken, ahol egyre több AI-etikai kurzust vagy közös programot indítanak számítástechnika és filozófia szakon. Edward Harcourt, az Oxfordi Egyetem Filozófia Intézetének igazgatója szerint „ez az év divatja.”

Az akadémiai világban egyesek gyanakodva figyelik a laborokban dolgozó filozófusokat. Felmerül a kérdés, hogy egy profitorientált AI-cég fizetése nem kompromittálhatja-e a kutatás függetlenségét. Harcourt szerint „jól néz ki a techcégek nyilvános megítélése szempontjából, ha azt hiszik, hogy valami rendkívül szokatlant és rendkívül erőset csinálnak.”

Gabriel szerint a korai, közel 10 évvel ezelőtti fókusz inkább az algoritmikus torzításokon volt. A nagy nyelvi modellek (LLM) megjelenésével azonban „sokkal gazdagabb értékrendet tudtunk kódolni.” Ma már az AI-ügynökök képesek e-maileket küldeni, időpontokat egyeztetni és kódot írni, ami közvetlen felhasználókat és más embereket is érinthet. Gabriel kutatása most a „értékegyeztetésre” összpontosít, arra, hogy „mi jelenti azt, hogy a technológia aktívan jó.”

A tudatosság és a szuperintelligencia kérdései vonzóak, de a laborokban dolgozó filozófusok többnyire az azonnali kockázatokkal foglalkoznak: tisztességes bánásmód, félretájékoztatás, rosszindulatú felhasználás és téves ügynökök. Gabriel szerint „ezekben a kérdésekben most inkább adatgyűjtési módban vagyunk.” Julia Haas, a DeepMind felelősségi csapatának tagja a modellek működésével és az értékek mérésével foglalkozik. Öt éve dolgozik a cégnél, és nemrég a Nature-ben publikált egy keretrendszert a LLM-ek morális kompetenciájának tesztelésére.

Az Anthropic-nál a filozófusok közvetlenebbül részt vesznek a modellfejlesztésben. Amanda Askell szerint „egy startup sem vesz fel filozófust csak azért, hogy filozófiát csináljon.” Askell, aki korábban az OpenAI-nál dolgozott, az Anthropic egyik alapító tagja. Fő feladatai közé tartozik a furcsa esetek azonosítása, ahol az emberi viselkedés követése nem lenne megfelelő, például pszichésen instabil személyekkel való interakció során. Ezt a folyamatot a Claude, az Anthropic zászlóshajó modelljével való „csacsogással” végzi. Ő volt a fő szerzője Claude „alkotmányának”, amely előírja, hogyan viselkedjen a modell és milyen értékeket képviseljen. Askell szerint ez „olyan, mintha egy embert tanítanánk jónak lenni.”

Az akadémiai filozófusok általában egyetértenek az AI etikai kockázatainak feltérképezésében, mint például új tömegpusztító fegyverek kifejlesztése vagy a demokrácia aláásása. A tudatosság és a szuperintelligencia grandiózusabb kérdéseivel kapcsolatban azonban eltérőek a reakciók. Harcourt szerint „a tudatosság definícióinak finom szeletelése időpazarlás.” Szerinte ezek a rendszerek „soha nem lesznek versenytársai az emberi életünknek, nem utolsósorban azért, mert az emberiség különlegessége éppúgy függ a meleg testektől, mint a kognitív kifinomultságtól.”

Harcourt úgy véli, hogy amikor egy filozófus AI-laborban vállal munkát, „nagy a kockázata az etikai mosásnak.” Aggodalomra ad okot, hogy a kutatók a laborok marketingfunkciójának meghosszabbításává válhatnak, munkájuk pedig azt a látszatot keltheti, hogy a modellek már olyan fejlett szinten vannak, hogy komoly emberek foglalkoznak szuperintelligenciával és tudatossággal. David Leslie, az Alan Turing Intézet etikai és felelős innovációs kutatási igazgatója szerint van egy „választó affinity” az olyan filozófusok között, akik hajlandóak elfogadni a mesterséges elme gondolatát, és a „Big Tech vezetői között, akik a hype haszonélvezői.”