Mustafa Suleyman: az AI számítási teljesítménye 1000-szeresére nő 2028 végére
A chipek hétszeres teljesítménynövekedése, a háromszoros memória-sávszélesség és a GPU-hálózatok együttes hatása hozza a fejlődést — az AI telepítési költségei éves szinten akár 900-szorosára csökkentek.
Az AI-modellek betanításához szükséges számítási kapacitás a 2010-es évek óta elképesztő mértékben, billió (10¹²) alkalommal nőtt, a korai rendszerek 10¹⁴ FLOP-járól a mai legnagyobb modellek több mint 10²⁶ FLOP-jára — írja a MIT Technology Review. Ez a robbanásszerű növekedés az AI fejlődésének alapja, és rendre megcáfolja a szkeptikusok aggodalmait.
A számítási teljesítmény ugrásszerű növekedését három tényező együttes hatása biztosítja. Egyrészt az alapvető chipek, például a Nvidia termékei, hat év alatt több mint hétszeres nyers teljesítménynövekedést mutattak, a 2020-as 312 teraFLOP-ról a mai 2250 teraFLOP-ra. Másrészt a nagy sávszélességű memória (HBM) technológia, mely a chipeket vertikálisan halmozza, megháromszorozta az adatátviteli sebességet, így a processzorok folyamatosan terhelve maradnak. Harmadrészt a NVLink és InfiniBand technológiák révén több százezer GPU kapcsolódik össze raktárnyi szuperszámítógépekké, amelyek egyetlen kognitív entitásként működnek.
Ezeknek a fejlesztéseknek köszönhetően drámaian nőtt a számítási teljesítmény. Míg 2020-ban egy nyolc GPU-n futó nyelvi modell betanítása 167 percet vett igénybe, ma ugyanez kevesebb mint négy perc alatt elvégezhető hasonló modern hardveren. Ez a 50-szeres javulás messze meghaladja a Moore-törvény által jósolt ötszörös növekedést ebben az időszakban.
A szoftveres fejlődés is hozzájárul a gyorsuláshoz. Az Epoch AI kutatása szerint egy adott teljesítményszint eléréséhez szükséges számítási kapacitás körülbelül nyolc hónaponként feleződik, ami sokkal gyorsabb, mint a Moore-törvény szerinti 18-24 hónapos duplázódás. Egyes modellek üzemeltetési költségei éves szinten akár 900-szorosára is csökkentek, jelezve, hogy az AI telepítése radikálisan olcsóbbá válik.
Kognitív bőség a láthatáron
A vezető laborok évente közel négyszeresére növelik kapacitásukat, és a globális AI-hoz kapcsolódó számítási teljesítmény előreláthatólag eléri a 100 millió H100-nak megfelelő egységet 2027-re, ami tízszeres növekedés három év alatt. Ez azt jelenti, hogy 2028 végére további ezer (1000) alkalommal nőhet az effektív számítási kapacitás. Suleyman szerint ez a fejlődés teszi lehetővé a chatbotoktól az emberi szintű ügynökökig tartó átmenetet.
Ezek a félautonóm rendszerek napokig képesek lesznek kódot írni, hetekig vagy hónapokig tartó projekteket végrehajtani, hívásokat intézni, szerződéseket tárgyalni és logisztikát kezelni. Nem egyszerű asszisztensekről van szó, hanem olyan AI-munkatársakról, amelyek megfontoltan, együttműködve és hatékonyan dolgoznak. Az iparágak átalakulása már most is zajlik, és a Microsoft AI szuperintelligencia laborja is erre a jövőre készül.