Generatív AI nem képes új felfedezésekre — állítja Richard Sutton

Richard Sutton szerint a jelenlegi generatív AI-modellek, mint a nagy nyelvi modellek vagy a képgenerátorok, nem képesek valódi, újszerű felfedezésekre. Ezek a rendszerek nagyszámú példán alapulnak, és olyan kimenetet produkálnak, amely hasonlít a betanítási adatokra, de nem hoz létre egyszerre újat és jót.

A kutató egy régi viccre hivatkozva magyarázza ezt: „A munka mind újszerű, mind jó. Sajnos, ami jó, a nem újszerű, és ami újszerű, a nem jó.” Sutton szerint ez pontosan leírja a generatív AI nagy részét: a jó kimenet nem új, az új pedig nem feltétlenül jó, gyakran csak „hallucináció”.

Kapcsolódó: Anchor rendszer

Sutton elismeri, hogy a generatív AI rendkívül hasznos lehet utánzásra, gyorsabb, olcsóbb vagy testreszabhatóbb lehet, mint az eredeti. Szórakoztatás vagy fikció esetén, ahol az újdonság fontos, a rendszer képes eltérő, egyedi tartalmat létrehozni, de ezt nehéz mérni, mivel az internet hatalmas, és a lehetséges források száma szinte végtelen.

Kapcsolódó: AI áttörés

A felfedezés korlátai

A tudomány és a matematika területén azonban ez a korlát komoly probléma. Ezeken a területeken valódi kreativitásra és felfedezésre van szükség, amit a „mimikri AI” nem tud nyújtani. Sutton szerint ehhez más AI-rendszerekre van szükség, amelyek képesek valódi felfedezésekre, mint például az AlphaGo, AlphaZero, AlphaFold vagy a Claude-Code.

Kapcsolódó: AI-vége

A valódi felfedezés lépései

Sutton szerint a valódi felfedezéshez a „variáció, értékelés és szelektív megtartás” hármas lépése szükséges. Ez az evolúció, a tudományos módszer és a tanulás alapja is. A felügyelt tanulásból és a generatív AI-ból hiányzik az értékelés lépése, ami nélkül nincs felfedezés és nincs valódi kreativitás.

Kapcsolódó: AI kollaboráció

A kutató hangsúlyozza, hogy bár a generatív AI-t forradalmi technológiának tartja, korlátai miatt nem alkalmas a tudományos és matematikai felfedezések előmozdítására. A SAIR Foundation videójában Richard Sutton bemutatja a megerősítéses tanulásra (reinforcement learning) vagy a kombinatorikus keresésre vonatkozó alternatív megközelítéseket.

Kapcsolódó: AI tudat