Frissítve: 12 perce·Ma: 58
Modellek & LLM
AI által generált szöveg

Az LLM-ek figyelmi ablaka 3,9 milliószorosára nőtt 2017 óta

Az LLM-ek figyelmi ablakának növekedése együtt jár a humán fenntartott figyelem képességének csökkenésével, amely 2004 és 2026 között mintegy 16 000-ről 1800 tokentre csökkent.

Az LLM-ek figyelmi ablaka 3,9 milliószorosára nőtt 2017 óta
Fotó: Sumaid pal Singh Bakshi / Unsplash
Forrás: ArXiv NLPSzerző: AI Forradalom szerk.
Megosztás

Az LLM-ek figyelmi ablakának növekedése együtt jár a humán fenntartott figyelem képességének csökkenésével. Az LLM-ek kontextus ablakai 2017 óta 3,9 milliószorosára nőttek, míg az emberi figyelem tartama 16 000-ről 1800 tokentre csökkent.

A kutatás szerint a mesterséges intelligencia kontextus ablakai exponenciálisan bővülnek, míg az emberi figyelem tartama csökken. A tanulmányban az Effective Context Span (ECS) fogalmát használják, amely egy tokenequivalens mérés, amely a validált olvasási sebesség metaanalízisén és egy empirikusan motivált megértési skálázási tényezőn alapul.

Az LLM-ek kontextus ablakai 512 tokentől 2 000 000 tokenre nőttek 2026-ra, ami egy 3,906-szoros növekedést jelent. Ugyanakkor az emberi ECS 16 000-ről 1800 tokentre csökkent. Ez a kognitív divergencia az AI és az emberi kogníció közötti aszimmetriát jelenti.

Az LLM-ek fejlődése és a humán figyelem csökkenése egy önmagát erősítő folyamat, amelyben az AI kontextus ablakai növekednek, miközben az emberi figyelem tartama csökken. Ennek a folyamatnak a következménye, hogy az emberek egyre inkább delegálják a kognitív felelősséget a technológiai rendszereknek, anélkül, hogy teljesen kiértékelnék azok kimenetét.

Az LLM-ek és a humán figyelem kapcsolatának tanulmányozása fontos a kognitív jólét és a döntéshozatal szempontjából. Az Attention in the Age of Artificial Intelligence című tanulmány szerint a figyelem fragmentálódása és a technológiai rendszerek irányítása miatt a döntéshozatal inkább az automatikus válaszokra és az algoritmikus javaslatokra támaszkodhat.

Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

Támogatom