AI-területek fejlődését határozza meg a 'grindolhatóság' – The Sequence elemzése
Grant Sanderson és Dwarkesh Patel podcastjában elhangzottak alapján a szerző amellett érvel, hogy az AI-képességek fejlődéséhez nem elegendő a verifikálhatóság, a 'grindolhatóság' is legalább ilyen fontos.
A domainek alkalmasságát az AI számára vizsgáló Grant Sanderson szerint a verifikálhatóság csupán egyetlen tengely egy magasabb dimenziós térben. Azok a területek, ahol az AI meglepően jól teljesít, mint például a matematika, a kódolás vagy a társasjátékok, egyidejűleg több tengelyen is magas pontszámot érnek el.
A fejlődés lassúbb területei
Ezzel szemben a számítógép-használat, a robotika és a nyílt végű tudásmunka területein lassabb és kevésbé kielégítő a haladás. Ezek a területek általában egy-két tengelyen erősek, de másokon jelentős hiányosságokkal küzdenek. Ez magyarázza, miért fejlődtek a modellek gyorsabban a matematika terén, mint az e-mailek feldolgozásában, és miért vonzanak milliárdos költségvetéseket a RL-környezetekkel foglalkozó induló vállalatok.
Kapcsolódó: Deterministic Horizon pontossági plafon
A 'grindolhatóság' szerepe
A szerző kiemeli, hogy a 'grindolhatóság' fogalma legalább olyan fontos, mint a verifikálhatóság. Ez arra utal, hogy egy adott területen mennyire lehet ismétlődő, szisztematikus munkával (grind) javítani az AI teljesítményét. Ahol ez a tulajdonság erősen jelen van, ott az AI képességei gyorsabban tudnak fejlődni.
Kapcsolódó: AI-ügynökök hardver-igénye
A verifikálhatóság mint tengely azt jelenti, hogy egy feladat eredménye könnyen ellenőrizhető. Például egy matematikai probléma helyes megoldása egyértelműen megállapítható. Ahol ez hiányzik, ott az AI fejlődése is lelassul, mert nehéz visszajelzést adni a modellnek a teljesítményéről.
Kapcsolódó: Platform-determinisztikus inferencia
A szerző szerint a jelenlegi AI-fejlődésben tapasztalható zavaró tények sokasága válik érthetővé ezen tengelyek ismeretében. A különböző területeken tapasztalható eltérő haladási ütemet ez a többdimenziós megközelítés magyarázza meg, szemben a korábbi, csupán a verifikálhatóságra fókuszáló nézetekkel.
Kapcsolódó: LLM-magyarázatok megbízhatósága
A szerző a továbbiakban bemutatja azokat a területeket, ahol az AI fejlődése a legjelentősebb. A The Sequence elemzésében részletesen kifejti, hogy a futurisztikus algoritmusok és a RL-környezetek hogyan hozták létre a jelenlegi AI-képességeket a matematikai és programozási területeken.
Kapcsolódó: AutoVerifier ellenőrző rendszer