Rodrigo Liang: Az AI-háború az inferencia költségeiről szól
Rodrigo Liang, a SambaNova vezérigazgatója szerint az AI-iparágban a következő nagy kihívás az inferencia költségeinek kordában tartása és a számítási kapacitás hiányának kezelése lesz. Az AI-háború az inferencia költségeiről és a számítási kapacitásról szól.
A mesterséges intelligencia következő nagy háborúja nem a modellképzésről, hanem az inferencia költségeiről, a számítási kapacitás hiányáról és az AI-infrastruktúra profitábilis skálázásáról szól — jelentette ki Rodrigo Liang, a SambaNova vezérigazgatója a Bloomberg Open Interest adásában.
Liang szerint a Cerebras stratégiájával ellentétben, amely a modellképzésre fókuszál, a piac egy közelgő AI-ellátási válság és az exponenciálisan növekvő vállalati igények miatt az inferencia felé tolódik el. Ez a terület a technológiai szektor legnagyobb üzletágává válhat a jövőben.
A SambaNova vezetője szerint a vállalatoknak most arra kell fókuszálniuk, hogy hatékonyan és költséghatékonyan tudják futtatni az AI-modelleket, miközben a számítási erőforrások egyre szűkösebbé válnak. Az inferencia, vagyis a betanított modellek valós idejű alkalmazása, kulcsfontosságú lesz a versenyképesség megőrzésében.