900 nyílt forráskódú AI-eszköz: ez a jelenlegi állás

A Chip Huyen által készített elemzés alapján a GitHubon található 900 nyílt forráskódú AI-eszköz közül 845 software repository, és az utóbbi két évben az alkalmazásfejlesztési rétegben történt a legtöbb fejlesztés — írja a Chip Huyen.

Az AI-stack három rétegből áll: infrastruktúra, modellfejlesztés és alkalmazásfejlesztés. Az infrastruktúra-réteg az alapvető eszközöket tartalmazza, a modellfejlesztési réteg a modellkészítéshez és -tanításhoz szükséges eszközöket, míg az alkalmazásfejlesztési réteg az alkalmazások készítéséhez szükséges eszközöket tartalmazza.

A fejlesztési rétegek

Az alkalmazásfejlesztési rétegben történt a legtöbb fejlesztés az utóbbi két évben, és itt találhatók a prompt engineering, AI interface, és az AIE framework eszközök. A prompt engineering az alkalmazások fejlesztését segíti, az AI interface a felhasználók számára nyújt felületet az alkalmazások használatához, míg az AIE framework a fejlesztőknek nyújt segítséget az alkalmazások készítéséhez.

A modellfejlesztési rétegben a legtöbb fejlesztés a modelltanítás és -optimalizálás területén történt. Az inferencia-optimalizálás fontosabbá vált a nagy alapmodell-architektúrák miatt, és új technikák is megjelentek, mint például a 2-bit kvantálás.

A növekvő igény

Az infrastruktúra-rétegben kevesebb fejlesztés történt, de megjelentek új eszközök, mint például a vektor-adatbázisok.

A nyílt forráskódú AI-eszközök száma folyamatosan nő, és már több mint 15 ezer repository található a Good AI List-en.

A Good AI List 2024. márciusában 15 432 repository-t tartalmazott, ezzel jelentősen meghaladva az előző évi számot.