A Stability AI és az NVIDIA 3,5-ös verziószámú Stable Diffusion NIM-mel gyorsítja a teljesítményt
A Stable Diffusion 3.5 NIMmel való együttműködéshez az NVIDIA a saját hardverét és szoftverét használja, ezzel tovább növelve a modell teljesítményét és skálázhatóságát.
Stability AI és NVIDIA bejelentették a Stable Diffusion 3.5 NIM kiadását, amely az NVIDIA saját hardverén és szoftverén fut, így a modell 1,5-szeres sebességgel dolgozik a korábbi verzióhoz képest.
Az együttműködés célja, hogy a vállalatok számára egyszerűsítse a telepítést: a NIM (Neural Inference Machine) már előre optimalizált, így a felhasználóknak nem kell saját GPU-kat konfigurálni.
Technikailag a Stable Diffusion 3.5 NIM a latent diffusion architektúrára épül, és a 8-bit kvantálás révén csökkenti a memóriaköltséget 30%-kal, miközben megtartja a képminőséget.
A kiadás segít a vállalati AI stratégiáknak, mert a NIM támogatja a valós idejű képgenerálást, akár több száz felhasználó számára is egyidejűleg.
A következő lépés: a Stability AI tervezi, hogy a NIM-et továbbfejleszti, hogy több multimodális feladatot is támogasson, például hang- és szöveg kombinációját.