LLM-ek nem gondolkodnak, hanem utánoznak — egy újságíró tapasztalatai Claude-dal

Gina Chua, a Tow-Knight Center munkatársa két napot töltött a Claude nevű rendszerrel, hogy kidolgozzanak egy olyan folyamatot, amellyel egy szerkesztő értékelheti egy cikk erősségeit és gyengeségeit. Chua szerint az LLM-ek nem tudnak igazán gondolkodni, hanem inkább analógiák alapján érvelnek.

Az LLM-ek korlátai azért fontosak, mert sok esetben úgy tűnik, mintha értelmesen gondolkodnának, pedig valójában csak utánozzák a nyelvi mintákat. Chua például kiemeli, hogy amikor egy LLM azt mondja, „you are a news assistant”, akkor valószínűleg nem érti meg, mit is jelent valóban egy hírszerkesztőnek lenni. A lényeg az, hogy az LLM-ek tudását és utánzó képességét meg kell különböztetni.

A Claude rendszerrel végzett kísérlet során Chua és a csapata kidolgozott egy folyamatot, amely segít a cikkek értékelésében. A folyamat magában foglalja a tézis azonosítását, a tények és feltételezések elemzését, valamint a következtetések levonását. A rendszer képes különböző típusú elemzéseket végezni, például a tézis és a valódi üzenet közötti különbség azonosítását.

A kísérlet eredményei azt mutatják, hogy a folyamatfontosság és a strukturáltság kulcsfontosságú az LLM-ek hatékony használatában. Chua szerint a jövőben fontos lesz, hogy az emberek és a gépek együttműködjenek, és a folyamatokat és az adatokat hatékonyan használják fel.

Az LLM-ek fejlesztése és használata terén várhatóan további előrelépések lesznek, de fontos, hogy az emberek megértsék az LLM-ek korlátait és lehetőségeit. Ahogy Chua hangsúlyozza, a folyamatfontosság és a strukturáltság lesz a kulcs a sikeres együttműködéshez az emberek és a gépek között.