Margaret Atwood kritizálja az AI megbízhatatlanságát

Margaret Atwood, a A szolgálólány meséje és A vak bérgyilkos című regények írója szerint a nagy nyelvi modellek (LLM) alapvető problémája a „garbage in, garbage out” elv, vagyis az, hogy az AI csak annyira jó, amennyire az adatok, amelyekkel betáplálják.

Atwood a portugáliai Portóban, a Babell Irodalmi és Kulturális Fesztiválon beszélt az AI-ról. Elmondása szerint pontosan egyszer próbálta ki az Anthropic Claude nevű chatbotját, és nem volt lenyűgözve. Amikor a brit Father Brown című detektívsorozatról kérdezte, a modell vagy rossz választ adott, vagy „hazudott” — bár Atwood hozzátette, hogy az AI nem tud hazudni, mert nem emberi lény.

Kapcsolódó: Ted Chiang AI-gondolatai

Az írónő szerint a modell félrevezette magát, mert bár „elolvasta” a sorozatról szóló kritikákat, azok nem árulták el a végét, így az online vélemények alapján téves következtetésekre jutott. Atwood szerint az AI-t használókat „opportunistáknak” nevezte, akik az egyszerűbb utat keresik.

Kapcsolódó: IFMS Media nyilatkozata

Az LLM-ek megbízhatósága szorosan összefügg a betáplált adatok minőségével. Atwood szerint a gépekre hagyatkozni, amelyeket feldolgozott, esetleg elavult adatokkal tanítottak, nem a legjobb ötlet. Hozzátette, hogy még üzleti célból használva is ellenőrizni kell az AI által generált tartalmakat, mert hibázhatnak.

Kapcsolódó: Aftonbladet AI-könyve