A NVIDIA NemoClaw biztonságos, helyi AI ügynököket telepít
A NVIDIA egy új nyílt forráskódú referenciastackkel, a NemoClaw-val teszi lehetővé a helyi, biztonságos AI ügynökök telepítését, csökkentve az adatvédelmi kockázatokat.
Az AI ügynökök egyre inkább önálló asszisztensekké válnak, amelyek képesek fájlokat olvasni, API-kat hívni és összetett munkafolyamatokat vezérelni. Az ilyen ügynökök telepítése azonban – különösen harmadik féltől származó felhőinfrastruktúrában – komoly kockázatokat rejt magában az adatvédelem és az ellenőrzés szempontjából — írja a NVIDIA Developer Blog.
Ezekre a kihívásokra kínál megoldást a NVIDIA NemoClaw, amely egy nyílt forráskódú referenciastack. Ez a rendszer a NVIDIA OpenShell-t vezényli az OpenClaw futtatásához. Az OpenClaw egy önhostolt átjáró, amely üzenetküldő platformokat kapcsol össze AI kódoló ügynökökkel, melyeket nyílt modellek, például a NVIDIA Nemotron hajtanak.
A biztonságos AI ügynökök építésének alapkövei
A NemoClaw olyan funkciókat is kínál, mint a vezetett bevezetés, az életciklus-kezelés, a képkeményítés és egy verziózott tervrajz. Ezek együttesen biztosítanak egy teljes folyamatot a modellkövetkeztetéstől a biztonságosabb, interaktív ügynöktelepítésig.
A helyi AI ügynökök telepítésének előnyei
Egy részletes útmutató bemutatja a NemoClaw telepítését NVIDIA DGX Spark környezetben. Ez magában foglalja a futásidejű környezet konfigurálását, a modell helyi kiszolgálását, a NemoClaw stack telepítését és a Telegramhoz való csatlakoztatását a távoli hozzáférés érdekében. A NemoClaw telepítése várhatóan 2024-ben lesz elérhető a NVIDIA DGX Spark felhasználók számára.