Goblin-mánia ellen harcol az OpenAI — utasította a ChatGPT-t, hogy hallgasson
A probléma a GPT-5.1 novemberi bevezetése után jelentkezett, egy „nerdy személyiség” fejlesztése okozta, amely jutalmazta a goblin említéseket.
Az OpenAI utasította mesterséges intelligencia eszközeit, hogy hagyják abba a goblinokról és gremlinekről való beszédet, miután a kifejezések véletlenszerűen beszivárogtak a válaszokba — írja a BBC.
A cég blogbejegyzésében közölte, hogy megnövekedett a mitológiai lények, valamint a gremlinek említése a ChatGPT és a legújabb zászlóshajó modellje, a GPT-5 által működtetett egyéb eszközök metaforáiban. A felhasználók és az alkalmazottak is jelezték a problémát, miután a modellek „kis goblinokként” írták le a hibákat, ezért az OpenAI lépéseket tett a probléma enyhítésére, többek között megtiltotta a Codex kódoló ügynökének, hogy releváns kontextus nélkül utaljon rájuk.
A cég szerint egy „nerdy személyiség”, amelyet a ChatGPT számára fejlesztettek ki, akaratlanul is ösztönözte és jutalmazta a goblin említéseket, ami a ChatGPT-ben előforduló „goblin” említések 66.7%-áért volt felelős. Az OpenAI blogbejegyzése szerint a „goblin” említések 175%-kal, a „gremlin” említések pedig 52%-kal nőttek a GPT-5.1 novemberi bevezetése óta.
Az incidens rávilágít azokra a kihívásokra, amelyekkel az AI-cégek szembesülnek, amikor a rendszerek és képzésük során fellépő hibákat, például nyelvi furcsaságokat kell kezelniük. Az OpenAI konkrét utasításokat adott ki a Codexnek, hogy „soha ne beszéljen goblinokról, gremlinekről, mosómedvékről, trollokról, óriásokról, galambokról vagy más állatokról, illetve lényekről, hacsak nem abszolút és egyértelműen releváns a felhasználó lekérdezéséhez”.