Altman „vibe-jai” miatt távoztak az OpenAI biztonsági kutatói

Több mint száz interjú és belső dokumentum alapján rajzolt portrét Sam Altmanról a The New Yorker, amelyből kiderül, miért távozott annyi biztonsági kutató az OpenAI-tól — írja a The Decoder. Altman szerint a hagyományos AI-biztonsági elképzelések nem illeszkednek a víziójához.

Altman nyers őszinteséggel ismerte el, hogy „vibe-jai” nem egyeznek a hagyományos AI-biztonsági megközelítésekkel. Ez a nézeteltérés vezetett az Anthropic megalapításához is, amelyet éppen az OpenAI-tól távozott biztonsági kutatók hoztak létre.

Az OpenAI feloszlatott több biztonsági fókuszú csapatot, és egyes állítások szerint visszavágta a biztonsági intézkedéseket. Amikor a Pentagonnal kötött szerződések miatt aggályok merültek fel az alkalmazottakban, Altman egyértelművé tette: „Lehet, hogy az iráni csapást jónak, a venezuelai inváziót rossznak gondolod. Erről nem nyilatkozhatsz.”

Altman szerint egyesek olyan vezetőt akarnak, aki abszolút biztos a véleményében és ahhoz ragaszkodik, ám az AI-területen a dolgok rendkívül gyorsan változnak. Ezt jól példázza, hogy 2019-ben nyilvánosan óvott a GPT-2 teljes kiadásától annak vélt veszélyessége miatt, majd néhány évvel később sokszorosan erősebb modelleket tett ingyenesen elérhetővé.