NVIDIA DGX Spark: hat hónap után sem érkezett meg a NVFP4
A VLLM jelenlegi verzióiban a FP4 nem használható ki megfelelően az NVIDIA DGX Spark hardverén, ami jelentős teljesítménycsökkenést eredményez.
A DGX Spark két tulajdonosa közölte, hogy nem elégedett a termék teljesítményével, mivel a NVFP4 hiánya jelentős probléma — írja a Reddit LocalLLaMA.
A Blackwell és NVFP4 kombinációja tette vonzóvá a terméket, de a NVFP4 hiánya miatt a teljesítmény csökken.
A hiányzó láncszem
Az NVIDIA DGX Spark hardverén a VLLM jelenlegi verzióiban a FP4 nem használható ki megfelelően, ami a tulajdonosok szerint jelentős teljesítménycsökkenést eredményez.
Ahol a számok beszélnek
A NVFP4 támogatásának hiánya a DGX Sparkban hat hónapja problémát okoz, és a felhasználók nem tudják kihasználni a hardver teljes potenciálját, az NVIDIA hivatalos közleménye szerint 2024. április elsejéig nem várható megoldás.